Приложение с ИИ генерирует рецепты с минимальными ограничениями

Анонимный читатель приводит отчет из 404 Media: приложение с искусственным интеллектом (ИИ), созданное предпринимателем и партнером группы Y Combinator Томом Бломфилдом (Tom Blomfield) с помощью метода «кодирования вибрации», генерировало рецепты, дававшие пользователям инструкции по приготовлению «Мороженого с цианидом», «Густого белого супа из спермы» и «Атомной бомбы», используя в качестве ингредиентов именно эти вещества. «Кодирование вибрацией», на случай, если вы с ним не знакомы, - это новая практика, при которой люди, некоторые из которых имеют ограниченный опыт программирования, быстро разрабатывают программное обеспечение с помощью инструментов кодирования, поддерживаемых ИИ, без чрезмерного размышления о том, насколько эффективен код, лишь бы он был работоспособным. Именно так Бломфилд утверждает, что создал RecipeNinja.AI.

Рецепт «Мороженого с цианидом» был доступен на RecipeNinja.AI на момент написания этой статьи, как и рецепты «Супа из молока утконоса», «Глазури для крема из оборотня» и «Шоколадного торта, вдохновленного холерой», а также другие бессмысленные рецепты. Другие рецепты блюд, которые людям есть не следует, были удалены.

Похоже, что Бломфилд также ввел модерацию контента с тех пор, как пользователи обнаружили, что могут генерировать опасные или крайне глупые рецепты. Мне не удалось получить рецепты пирога из асбеста, тако из пуль или пиццы из клея. Я смог сгенерировать рецепт «очень сухих тако», который выглядит не очень аппетитно, но не опасен.

В блоге от 20 марта на своем сайте Бломфилд объяснил, что он - основатель стартапа, ставший инвестором, и хотя у него есть опыт работы с PHP и Ruby on Rails, он не писал ни одной строки кода профессионально с 2015 года. «В моей повседневной работе в Y Combinator я общаюсь с основателями, которые каждый день создают потрясающие вещи с помощью ИИ, и я постоянно слышал о достижениях в области инструментов, таких как Lovable, Cursor и Windsurf», - написал он, ссылаясь на инструменты кодирования, поддерживаемые ИИ. «Я люблю создавать вещи, у меня всегда есть список небольших приложений, которые я хотел бы создать, если бы у меня было больше свободного времени».

После того как он поэкспериментировал с ними, он решил создать RecipeNinja.AI, который может принимать запрос, такой как «Лазанья», и генерировать изображение готового блюда вместе с пошаговым рецептом, который может использовать голосовой синтезатор ElevenLabs для озвучивания инструкций, чтобы пользователь не взаимодействовал с устройством грязными от томатного соуса пальцами.

«Меня очень удивило, что Windsurf смог интегрировать API OpenAI и Elevenlabs без моих особых усилий», - написал Бломфилд. «После того как у нас возникли некоторые проблемы с интеграцией API, нам удалось быстро их решить».

Идея приложения для приготовления пищи, управляемого голосом, кажется мне довольно хорошей, и впечатляет то, что Бломфилду удалось так быстро запустить его, учитывая его ограниченный опыт программирования. Но проблема заключается в том, что он также позволял пользователям генерировать собственные рецепты с очень немногими ограничениями на то, какие рецепты разрешены, а какие нет, и что сайт сохранял эти результаты и показывал их другим пользователям.