В прошлой статье я писал о запуске Alpaca на Эльбрусе. На момент написания той статьи оптимизации под Эльбрус не проводились. Однако теперь, благодаря стараниям @troosh можем протестировать Эльбрус уже с оптимизациями. ВНИМАНИЕ! Проект llama.cpp обновляется очень часто, и многое меняется. На данный момент это самая актуальная версия llama.cpp под Эльбрус.
В прошлой статье я уже описал что делал. Поэтому тут я сразу начну с тестов.
Сегодня не использовать ChatGPT просто глупо… Это действительно универсальный помощник, который сильно облегчает жизнь и выводит программирование на принципиально новый уровень. Одно из величайших изобретений в IT за десятилетия, после GUI и интернета.
Пожалуй, никогда программирование не было настолько приятным и эффективным, как сейчас.
Читать полностью »
Думаю уже все слышали об Alpaca - аналоге chatGPT, которую можно запустить локально на процессоре. И раз есть такая возможность почему бы не сделать это на Эльбрусе?!
Я решил сравнить три процессора: Эльбрус 8СВ на сервере sumeriko(Доступ можно получить по ссылке), Эльбрус-16С(Спасибо Михаилу Шигорину, у него как раз имеется инженерный образец данного процессора) и Ryzen 7 5800H.
Я не стал придумывать велосипед и скачал llama.cpp Читать полностью »
Участники открытого сообщества LAION-AI выпустили в открытый доступ первые обученные модели OA_SFT_Llama_30B и OA_SFT_Llama_13B. и запустили ИИ-чатбот OpenAssistantЧитать полностью »
В течении последнего месяца в сфере текстовых нейронок всё кипит - после слитой в сеть модели Llama, aka "ChatGPT у себя на пекарне" люди ощутили, что никакой зацензуренный OpenAI по сути им и не нужен, а хорошие по мощности нейронки можно запускать локально, имея минимум 16ГБ обычной ОЗУ и хороший процессор.
Пока технические паблики только начинают отдуплять что происходит, и выкладывают какие-то протухшие гайды месячной давности, я вам закину пару вещей прямо с фронта.
Я бы мог вставить сюда ссылку на репозиторий llama.cppЧитать полностью »
Судьба плеера Winamp полна неожиданных поворотов. Группа компаний Vivendi S.A.R.L объявила о приобретении 64% акций компании Radionomy, которая на данный момент владеет всеми правами на некогда самый популярный медиаплеер. И хотя прямых объявлений о возобновлении разработки сделано не было, в Vivendi указывают, что Winamp и SHOUTcast стали одними из самых значимых их активов.
Изначально Winamp был разработан компанией Nullsoft в 1997 году. Создателями программы являются Джастин Франкель и Дмитрий Болдырев. В 1999 году компанию Nullsoft приобрела AOL LLC. В 2004 году последние сотрудники компании Nullsoft, стоявшие у истоков разработки Winamp, покинули AOL LLC. На конец 2009 г. Winamp использовали 70 млн пользователей.
В конце 2013 года AOL объявила, что отказывается от проекта Winamp и дальнейшей его разработки. после этого в январе 2014 года бельгийская компания Radionomy Group, занимающаяся интернет-радиовещанием объявила о покупке проигрывателя у корпорации AOL проигрывателя Winamp. В собственность Radionomy, помимо Winamp, перешёл каталог радиостанций SHOUTcast.
Читать полностью »
