Компания OpenAI, получившая известность благодаря исследованиям в области искусственного интеллекта, предоставила грант исследователям из Университета Дьюка для выполнения проекта под названием «Изучение ИИ и морали». Этот грант является частью более обширного трехлетнего финансирования в размере одного миллиона долларов, цель которого — изучение создания «морального ИИ».
Ведущий исследователь данного проекта, профессор практической этики Университета Дьюка Уолтер Синнотт-Армстронг, воздержался от комментариев относительно прогресса работы, завершение которой запланировано на 2025 год. Однако известно, что ранее Синнотт-Армстронг и его коллега Яна Борг проводили исследования потенциальных возможностей ИИ в качестве «морального GPS», который может помогать людям принимать более обоснованные решения. Они также разработали «морально согласованный» алгоритм для решения вопросов о донорстве органов и исследовали ситуации, в которых люди предпочли бы передать моральные решения ИИ.
Целью работы, финансируемой OpenAI, является обучение алгоритмов для «предсказания человеческих моральных суждений» в сценариях, где пересекаются моральные аспекты в медицине, праве и бизнесе. Тем не менее, задача создания «морального ИИ» чрезвычайно сложна, так как современные системы основаны на статистических моделях, которые выявляют закономерности, но не способны анализировать этические категории или понимать рассуждения и эмоции, подчиняющие моральные решения.
Кроме того, системы ИИ зачастую повторяют ценности преимущественно западных, образованных и индустриализованных стран, поскольку обучаются на данных, полученных из сети, где доминируют такие взгляды. Это ведет к тому, что ценности многих групп остаются не учтенными в ответах ИИ, который к тому же может унаследовать предвзятости. Например, инструмент Delphi, разработанный некоммерческим институтом Аллена, делает вывод о том, что быть натуралом более «морально допустимо», чем быть геем.
Субъективная природа морали также усложняет создание «морального ИИ». Философы обсуждают преимущества различных этических теорий на протяжении веков, не достигнув консенсуса. Так, Claude предпочитает кантианскую этику, тогда как ChatGPT склонен к утилитаризму. Алгоритм, способный справляться с моральными суждениями, должен будет учитывать все эти аспекты, что является поистине амбициозной задачей, если предположить, что он в принципе возможен.
Источник: iXBT
