24HourWire

24HourWire

News from all angles

Хабр Center

LLM впервые запустили на фотонном чипе: как Q.ANT и AMD скрестили оптику с GPU

Частая боль при работе современных языковых моделей — механизм внимания или self-attention. С ростом контекста он требует квадратично больше вычислений и раздувает KV-кэш в памяти видеокарты. Чтобы о…

Redirecting to Хабр in 3 seconds...

Read Now → Explore 24HourWire

Share this story with your network