llama.cpp

Установка

Экспериментальная разработка. Наличие пакета и совместимость с образом смотрите в официальном репозитории.