💾 Archived View for ostov.ml › articles › llama.gmi captured on 2023-05-24 at 17:53:09. Gemini links have been rewritten to link to archived content
⬅️ Previous capture (2023-04-19)
-=-=-=-=-=-=-
Пока в верхних интернетах бушует БУНД против ИИ, прогресс в этой области и не собирается останавливаться.
Собака лает, караван идёт.
Более тысячи экспертов, включая Возняка и Маска, призвали приостановить обучение ИИ мощнее GPT-4
Не так давно Мета (фейсбук) выпустил свою модель LLAMA, которая при маленьком количестве параметров обгоняет GPT-3 по качеству и производительности.
И самое главное - её можно запустить локально на CPU!
Правда железо у меня слабое, и генерация одного токена занимает непростительно большое количество времени.
Но радует, что AI/ML становится открытым для общества.
Сообщество уже сделало несколько форков llama.cpp:
WebUI Кобольда для llamacpp
Альтернативный фронтенд для терминала.
Можете попробовать сами.