iPhone 18 Pro продемонстрировал заметный прирост производительности при
локальном запуске больших языковых моделей. Энтузиаст Адриен Грондин запустил
непосредственно на смартфоне ИИ-модель Bonsai-27B с 27 млрд параметров. В ходе
демонстрации скорость генерации оказалась примерно вдвое выше, чем у iPhone 17
Pro.
По словам энтузиаста, ключевую роль в этом играет новый процессор Apple A20 Pro. «Новый чип A20 Pro — это просто зверь», — написал он.
Напомним, A20 Pro впервые среди
мобильных SoC Apple получил двойной 16-ядерный нейропроцессор. Также серьезно модернизировали подсистему памяти: iPhone 18 Pro и iPhone 18 Pro
Max оснащаются 12 ГБ LPDDR5X с 96-битной шиной и пропускной способностью 115,2
ГБ/с. Высокая скорость памяти особенно важна при запуске больших языковых
моделей непосредственно на устройстве.
В тесте iPhone 18 Pro полностью локально запускал Bonsai с 27 млрд
параметров. Обработка запросов происходила непосредственно на смартфоне, без
обращения к облачным серверам.
