Группа из бывших сотрудников OpenAI, обладателей Нобелевской премии и специалистов в области искусственного интеллекта обратилась к властям Калифорнии и Делавэра с просьбой предотвратить переход компании на коммерческую основу. В открытом письме от 21 апреля, направленном генеральным прокурорам этих штатов — Робу Бонте и Кэти Дженнингс, авторы выразили опасения, что изменения в структуре OpenAI могут угрожать задачам по предотвращению рисков, связанных с развитием искусственного общего интеллекта (AGI).
Под обращением подписались 10 бывших сотрудников компании, среди которых экс-консультант по этике Пейдж Хедли, три лауреата Нобелевской премии и ведущие эксперты в секторе ИИ. Они выразили критику в адрес планов OpenAI относительно передачи операционного управления коммерческому сегменту — общественной корпорации (Public Benefit Corporation, PBC). С их точки зрения, это устраняет критически важные меры безопасности, такие как независимый совет директоров и ограничение прибыли инвесторов в 100 раз от суммы их вложений.
«В текущем уставе OpenAI заложено обязательство делиться технологиями с конкурентами, если они приблизятся к созданию AGI. Переход на коммерческую модель может моментально устранить такие гарантии», — отметил в интервью Associated Press бывший инженер OpenAI Аниш Тондвалкар.
Основанная в 2015 году как некоммерческое предприятие, с 2019 года OpenAI действует в гибридной структуре: коммерческая часть OpenAI LP подчиняется некоммерческому совету. Согласно заявлениям подписантов, предложенные изменения фактически передают все рычаги управления в PBC, оставляя за некоммерческой частью только второстепенные задачи.
«Меня беспокоит вопрос: кто станет владельцем и управляющим AGI, когда он будет создан? — подчеркнула Пейдж Хедли. — Превалирование финансовых интересов может вытеснить вопросы безопасности, особенно по мере усиления возможностей ИИ». Бывший инженер Низан Стиннон выразился более резко: «OpenAI имеет потенциал создания технологии, способной уничтожить человечество. Только некоммерческая форма, ориентированная служить обществу, может противодействовать этому. Передача управления коммерческому образованию — измена миссии».
Компания утверждает, что изменения необходимы для конкуренции с такими игроками, как Anthropic и xAI Илона Маска. «Любые структурные изменения направлены на то, чтобы больше людей могли воспользоваться преимуществами ИИ», — говорится в официальном заявлении OpenAI.
Однако, по мнению критиков, стремление обогнать конкурентов заставляет компанию ускорять выпуск продуктов в ущерб безопасности. «Стоимость ошибок будет катастрофически расти по мере развития ИИ», — подчеркнула Хедли.
Ситуацию осложняет иск, поданный Илоном Маском в 2024 году. Один из основателей OpenAI, покинувший совет директоров в 2018 году, обвиняет компанию в изменении первоначальных принципов. Однако это письмо стало первым случаем, когда против планов OpenAI выступили прежние сотрудники и авторитетные ученые, детально понимающие риски AGI.
Генеральный прокурор Делавэра Кэти Дженнингс уже пообещала тщательно изучить планы OpenAI для защиты общественных интересов. Её коллега из Калифорнии, Роб Бонта, пока воздерживается от комментариев ввиду продолжающегося расследования. Решение регуляторов станет решающим для судьбы реструктуризации, сроки которой завязаны на привлечение миллиардных инвестиций, ожидаемых к концу 2025 года.
Источник: iXBT
