Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Новый флагманский чип Apple A20 Pro впервые в истории компании получил сдвоенный 16-ядерный нейронный движок. Суммарно это 32 ядра, которые предназначены для задач искусственного интеллекта. Именно эта архитектурная особенность обеспечила рекордную скорость в демонстрации, которую провел разработчик Адриен Грондин (Adrien Grondin).

Он запустил (видео можно посмотреть в сойсети Х) на iPhone 18 Pro модель Bonsai 27B, содержащую 27 миллиардов параметров. Телефон обрабатывал запросы полностью локально, без обращения к облачным серверам. По сравнению с iPhone 17 Pro на чипе A19 Pro, новый аппарат показал примерно двукратный прирост скорости генерации текста. В ходе теста модель не демонстрировала признаков замедления или подтормаживания.

@adrgrondin

Такой результат стал возможен не только благодаря нейронному движку. iPhone 18 Pro и iPhone 18 Pro Max оснащены 12 ГБ памяти LPDDR5X с 96-битной шиной. Пропускная способность достигает 115,2 ГБ/с, что заметно выше показателей предыдущего поколения. Быстрая память и удвоенное число нейронных ядер работают в связке, ускоряя обработку данных при локальном запуске ИИ-моделей.

Стоит учитывать, что демонстрация использовала модель Bonsai 27B в 1-битном квантованном формате. Такой вариант требует меньше ресурсов: его можно запустить даже на устройствах с 4 ГБ оперативной памяти, а на 8 ГБ и 12 ГБ он работает особенно плавно. Более новая версия Bonsai 2 с 2-битным квантованием оказалась слишком большой для локального размещения в памяти iPhone 18 Pro, что приводит к снижению производительности.

A20 Pro стал первым мобильным чипом Apple, изготовленным по 2-нанометровому техпроцессу. Помимо сдвоенного нейронного движка, он получил 7-ядерный графический ускоритель и 6-ядерный центральный процессор. В задачах, оптимизированных под нейронный движок, его пиковая пропускная способность превышает возможности встроенной графики.

Эта демонстрация показывает, что смартфоны постепенно приближаются к тому, чтобы запускать крупные языковые модели без интернета. Ответ приходит быстрее, данные не покидают смартфон пользователя, а работа возможна даже в офлайне. Главным ограничением остается объем оперативной памяти: чем больше модель, тем сложнее разместить ее целиком в телефоне.