OpenAI намерена направить свою робототехническую программу на строительство дата-центров. Сэм Альтман заявил в подкасте Cheeky Pint, который ведёт сооснователь Stripe Джон Коллисон, что дата-центры, способные воспроизводить себя с помощью роботов под управлением искусственного интеллекта, уже «в пределах досягаемости». По словам Альтмана, цель — получить большие объёмы вычислительных мощностей по значительно более низкой цене.
Он описал цепочку автоматизации, в которой ИИ управляет роботами на производствах микросхем, турбин и солнечных панелей, а затем использует их для строительства новых дата-центров. Такой подход, считает Альтман, поможет постепенно устранить дефицит вычислительной инфраструктуры. OpenAI также разрабатывает собственный чип, который, по словам руководителя, показывает хорошие результаты по производительности ИИ на единицу потребляемой электроэнергии.
Альтман считает, что рынок пока не справляется с быстрым ростом спроса на память и другие компоненты. Производители осторожничают с расширением мощностей, поскольку помнят периоды, когда строительство слишком большого числа заводов приводило к серьёзным финансовым потерям. В качестве примера стоимости инфраструктуры он привёл $70 млрд на строительство и эксплуатацию гигаватта вычислительных мощностей в течение 5 лет. Сумму в $20 млрд за такой же объём он назвал гораздо более привлекательной.
Источник изображения: сгенерировано Muse
В разговоре затронули и риски применения ИИ в кибербезопасности. Альтман отметил, что модели всё лучше находят уязвимости в программном обеспечении, а специалисты ещё не проверили с их помощью весь существующий код. Он ожидает, что по мере расширения таких проверок будут обнаруживаться более серьёзные ошибки. В качестве отдельной угрозы он назвал возможность выявления уязвимостей на уровне аппаратного обеспечения.
Обсуждая защиту самих ИИ-моделей, Альтман заявил, что изолированные среды выполнения — песочницы — эффективны лишь до определённого уровня возможностей модели. Мониторинг её работы может обеспечить дополнительную защиту, но в конечном счёте безопасность будет зависеть от того, насколько надёжно поведение системы соответствует намерениям разработчиков. По словам Альтмана, отрасль пока не может быть уверена, что существующие подходы к безопасности сохранят эффективность по мере развития ИИ.
Альтман также высказался в пользу систем из множества взаимодействующих ИИ-агентов вместо одной сверхмощной модели. Он считает, что команды моделей со способностями немного выше человеческих могут оказаться предпочтительнее единственной системы с чрезвычайно высоким уровнем интеллекта, хотя у таких команд тоже есть риски, связанные с согласованностью поведения. При этом он допустил, что для отдельных моделей в будущем придётся установить ограничения на уровень возможностей.
Говоря о развитии ИИ для научных исследований, Альтман заявил, что методы, которые помогли моделям OpenAI добиться успехов в математике, вероятно, удастся применить и к исследовательской работе. Он рассказал, что одна из математических задач потребовала вычислительных ресурсов стоимостью порядка $10 млн, а общие расходы на математические исследования компании достигали сотен миллионов долларов с учётом других работ. По его словам, потенциал технологии огромен, но индустрии пока не удалось убедительно объяснить обществу, почему ожидаемая польза оправдывает риски, включая массовую потерю рабочих мест и усиление слежки.
