Партнер Y Combinator утверждает, что большинство AI-приложений на данный момент — «экипажи без лошадей»

Партнер Y Combinator Пит Кумен (Pete Koomen) утверждает, что современные AI-приложения часто терпят неудачу из-за неоправданного ограничения базовых моделей, подобно первым автомобилям, которые имитировали конные экипажи, вместо того чтобы переосмыслить транспорт. В своей развернутой критике Кумен приводит функцию автоматического создания черновиков писем в Gmail в качестве яркого примера. Инструмент генерирует формальные, шаблонные письма, которые не соответствуют фактическому стилю письма пользователей, часто создавая черновики длиннее, чем те, которые пользователи написали бы естественным образом.

Критическая ошибка, по мнению Кумена, заключается в том, что пользователи не могут настраивать системный промпт – инструкции, определяющие поведение AI. "Когда LLM-агент действует от моего имени, мне должна быть предоставлена возможность обучить его, редактируя системный промпт", – пишет Кумен. Он полагает, что AI на самом деле лучше справляется с чтением и преобразованием текста, чем с его генерацией. Его видение действительно полезных AI-инструментов для работы с электронной почтой заключается в автоматизации рутинных задач – категоризации, приоритизации и создании контекстных отчетов на основе персонализированных правил, – вместо простого генерирования контента с нуля. В своей статье Кумен утверждает, что разработчикам следует создавать "конструкоры агентов", а не самих агентов, позволяя пользователям обучать AI-системы своим предпочтениям и шаблонам.