Открытый агент для программирования Goose можно использовать с локальными языковыми моделями через Ollama. Такой вариант не требует обязательной ежемесячной подписки и позволяет выполнять задачи на собственном оборудовании.
Как устроена схема
Goose доступен для macOS, Windows и Linux. После установки пользователь выбирает Ollama как поставщика модели и указывает локальный адрес сервиса. Агент получает возможность работать с кодом и выполнять многошаговые задачи без отправки запросов во внешний облачный API.
Цена локальности
Отсутствие подписки не означает нулевую стоимость. Крупным моделям требуется значительный объем оперативной или видеопамяти. Документация Goose называет 32 ГБ памяти надежной отправной точкой для более крупных моделей и результатов, тогда как некоторые компактные модели могут работать на 16 ГБ. Выбор следует делать по качеству на собственных задачах, требованиям к данным и полной стоимости оборудования.
Источник: venturebeat.com