Подборка фреймворков искусственного интеллекта

На итоговой конференции Digital Learning 2023 года один из инициаторов сообщества Владимир Казаков на основе собственного опыта предложил ИИ-фреймворки, сравнив их по качеству результата и цене.

Это важно, ведь при автоматизации работы с текстовыми нейросетями возникает проблема стоимости, потому что каждое слово и даже слог стоит денег. И чем больше и пространнее описывать промпты, тем дороже.

Для начала пара слов о том, что же такое фреймворки ИИ. Это библиотеки кода, с помощью которых разработчики создают, обучают и развертывают модели машинного обучения. Фреймворки играют решающую роль при разработке ИИ-приложений, позволяя разработчикам сосредоточиться на основной задаче, которую они пытаются решить, не думая о низкоуровневых деталях реализации.

А теперь ТОП-5 фреймворков от Владимира.

Zero-shot — очень дешевый в сравнении с другими, простой и очень стабильный (примерно одни и те же ответы, на одинаковые запросы). Подходит для случаев, когда нужно автоматизировать ручную обработку большого числа текстовых данных.

С помощью Zero-shot можно собирать отзывы по обучению, по курсам, по пройденным стандартам, по тренеру. Оценивать их и получать информативную таблицу того, что реально говорят пользователи.

Когда точную инструкцию сложно описать и сформулировать.

Expectation (Ожидание) — Role (Роль) — Action (Действие).

Невысокая стабильность — это иногда и хорошо. Фреймворк E.R.A. простой, потому что в нем немного мест, где можно подставить пользовательские данные, и пользователю сложно промахнуться. Поэтому в нём легко задать вопросы, чтобы ответы хорошо подставлялись в промпт.

Goal (Цель, задачи, описание) — Request (Запрос) — Action (Действие) — Details (Детали) — Examples (Примеры)

G.R.A.D.E. — дорогой фреймворк. Он однозначно не подойдёт, если нужно собрать тезисы курса, который проходит несколько тысяч человек. Если заполнить не все параметры, то стабильность может падать до нуля.

В целом нейросеть — суперисполнительна Это и плюс, и минус. С одной стороны, если мы попросили сформулировать какую теорию и поставили точку, то она нам и пришлет теорию. Если мы попросили теорию и задание, она пришлет теорию и задание.
Но она сама не придумает и не пришлет то, что мы не попросили.

Персона — Задача — Контекст — Шаги — Формат

Достаточно высокая стабильность, поэтому он и стал использоваться в промышленных масштабах. Mega-prompt подходит для слабопонятных задач. Например, когда нужно при создании курса по совсем незнакомой теме идти к эксперту, но уже с первоначальными наработками, общей структурой, примерами, оглавлением, вопросами, которые ему надо задать.