AMD раскрыла подробности о том, как она планирует реализовать возможности клиентского ИИ в 2024 году. На AI Summit в Санта-Кларе было объявлено, что следующим шагом в области обработки персонального ИИ станут мобильные процессоры серии Ryzen 8040, которые начнут поставляться во множество ноутбуков с начала следующего года. .
Опираясь на серию Ryzen 7040 Phoenix, анонсированную на выставке CES в этом году, есть то же самое, хотя больше внимания уделяется обработке NPU на базе Xilinx, предназначенной для клиентских рабочих нагрузок AI.
Сохраняя общность сегодняшнего дня, AMD делится на серию U мощностью 15–30 Вт, предназначенную для ультратонких ноутбуков, и серию HS мощностью 35–54 Вт для высокопроизводительных моделей, обычно оснащенных дискретным графическим процессором. Имея ту же архитектуру процессора Zen 4 и графического процессора RDNA 3, что и сегодня, нет никаких изменений в базовой конструкции или занимаемой площади — процессоры будут использовать существующие сокеты FP8, FP7 и FP7 R2. Хорошая новость для производителей ноутбуков: переключение между поколениями — дело легкое.
Стек, оптимизированный для искусственного интеллекта
«Мы продолжаем выпускать высокопроизводительные и энергоэффективные NPU с технологией Ryzen AI, чтобы переосмыслить ПК», — сказал Джек Хьюн, старший вице-президент и генеральный директор подразделения вычислительных и графических систем AMD. «Расширенные возможности искусственного интеллекта серии 8040 теперь будут работать с более крупными
моделями, что позволит перейти на следующий этап пользовательского опыта с использованием искусственного интеллекта».
Если копнуть глубже, мало что изменилось с точки зрения высокого уровня. Начиная с четырехъядерного процессора на Ryzen 3 и заканчивая восьмиядерным процессором на Ryzen 7 и Ryzen 9, также становится ясно, что встроенная графика сделана из той же ткани, что и в этом году.
Самая большая разница между моделями заключается в Ryzen 8040 Hawk Point, оснащенном более мощным блоком AI NPU. Ведущие сегодня процессоры AMD, оснащенные NPU Xilinx, достигают производительности около 10 TOPS INT8. На Ryzen 8040 это значение увеличивается до 16 TOPS, что указывает на то, что это скорее обновление и оптимизация текущих технологий, чем основательный дизайн. Что еще более важно для пользователей, AMD считает, что новая серия на 40% быстрее, чем лучшая на сегодняшний день серия 7040 для обычных моделей, таких как Llama 2 от Meta.
Локальный вывод на передний план
Лучшее место серии Ryzen 8040 — для локального анализа моделей среднего размера. Например, простейшая форма Llama 2 использует 7 миллиардов параметров, поэтому нам хотелось бы узнать, как пропускная способность токена сравнивается, скажем, с процессором Apple M1 или ведущим мобильным процессором Core.
Аппаратное обеспечение позволяет далеко не продвигаться в мире искусственного интеллекта. С этой целью и с намерением облегчить перенос существующих моделей искусственного интеллекта, разработанных с использованием признанных в отрасли платформ с открытым исходным кодом, таких как PyTorch, TensorFlow и ONNX, компания AMD уже представила программное обеспечение Ryzen AI Software. Взяв предварительно обученную модель и преобразовав ее в формат ONNX с открытым исходным кодом INT8, AMD считает, что несколько щелчков мышью, необходимые для обеспечения их работы на оборудовании AMD, обеспечивают достаточный стимул для внедрения.
Strix Point меняет направление искусственного интеллекта
В мобильном резервуаре искусственного интеллекта есть еще много чего. AMD также анонсировала будущие процессоры, известные в настоящее время под кодовым названием Strix Point. Учитывая следующую эволюцию архитектуры XDNA и обещающую трехкратное увеличение производительности генеративного искусственного интеллекта по сравнению с имеющимися на рынке процессорами серии Ryzen 7040, безусловно, есть что порадовать.
Мы пока не знаем, как Hawk Point или, в меньшей степени, Strix Point, можно сравнить с будущими многоячеистыми мобильными процессорами Intel Meteor Lake. Это настоящее поле битвы за место в ноутбуках следующего поколения. Следите за этим пространством.