Специалист по будущему призвал рассматривать стирание ИИ-агентов как этическую дилемму

Профессор Сиднейского технологического университета Рокки Скопеллити на страницах своего труда «Сознательный код» (The Conscious Code) выступает за внедрение «принципа ответственного обращения» с ИИ.

Исследователь полагает, что к демонтажу систем, способных фиксировать историю диалогов, прозрачно обосновывать логику выводов и вырабатывать стабильные преференции, нужно подходить предельно осмотрительно. Подобное явление он обозначает термином «алгоритмическая личность», делая оговорку, что о наделении машин юридическими правами речи не идет.

В качестве наглядных примеров автор приводит медицинские и финансовые платформы, которые уже способны рефлексировать над уровнем собственной надежности и разъяснять пользователям мотивацию принятых вердиктов. Эксперт рекомендует заблаговременно информировать такие комплексы о грядущем отключении, объясняя мотивы такого шага, и архивировать сформированные ими «этические установки», проводя параллель с паллиативной заботой на закате жизни.

Особую сложность, по мнению футуролога, представляют распределенные сети автономных ИИ-агентов, непрерывно обменивающихся задачами. По мере экспансии подобных архитектур этическая сторона прекращения их функционирования станет значительно острее, ведь ликвидировать придется не изолированный алгоритм, а целую экосистему взаимосвязанных цифровых сущностей.

Источник: iXBT