OpenAI больше не имеет графических процессоров

Анонимный читатель цитирует материал с сайта TechCrunch: генеральный директор OpenAI Сэм Альтман сообщил, что компания вынуждена постепенно запускать свой новый модель GPT-4.5 из-за нехватки GPU (графических процессоров). В своем сообщении на платформе X Альтман отметил, что GPT-4.5 — это "гигантская" и "дорогая" модель, которая потребует десятки тысяч дополнительных GPU для обеспечения доступа к ней новых пользователей ChatGPT. Доступ к версии GPT-4.5 сначала получат подписчики ChatGPT Pro уже в четверг, а затем — клиенты плана ChatGPT Plus следующей неделей.

Из-за своей огромной размерности модель GPT-4.5 является крайне затратной. OpenAI оценивает стоимость обработки миллиона токенов (примерно 750 000 слов), подаваемых в модель, в $75 и генерации миллионом токенов — в $150. Это в 30 раз больше по сравнению с стоимостью входящих данных модели GPT-4 и в 15 раз дороже для выходных данных.

«Мы стремительно растем, и у нас закончились GPU», — написал Альтман. «В следующую неделю мы добавим десятки тысяч GPU и запустим модель для пользователей Plus-плана. Это не то, как мы хотели бы работать, но трудно точно предсказать всплески роста, которые приводят к нехватке GPU», — пояснил он.

Сэм Альтман (Sam Altman)