💾 Archived View for ostov.ml › articles › llama.gmi captured on 2023-04-19 at 22:24:26. Gemini links have been rewritten to link to archived content

View Raw

More Information

-=-=-=-=-=-=-

LLAMA

Пока в верхних интернетах бушует БУНД против ИИ, прогресс в этой области и не собирается останавливаться.

Собака лает, караван идёт.

Более тысячи экспертов, включая Возняка и Маска, призвали приостановить обучение ИИ мощнее GPT-4

Не так давно Мета (фейсбук) выпустил свою модель LLAMA, которая при маленьком количестве параметров обгоняет GPT-3 по качеству и производительности.

И самое главное - её можно запустить локально на CPU!

gh://ggerganov/llama.cpp

Правда железо у меня слабое, и генерация одного токена занимает непростительно большое количество времени.

Но радует, что AI/ML становится открытым для общества.

Сообщество уже сделало несколько форков llama.cpp:

gh://LostRuins/koboldcpp

WebUI Кобольда для llamacpp

gh://thaierissa/alpaca.cpp

Альтернативный фронтенд для терминала.

Можете попробовать сами.

🔙️ Назад