Сатья Наделла сформулировал шесть правил для систем ИИ

В обществе по-разному относятся к развитию технологий искусственного интеллекта. Одни мечтают поскорее обзавестись личным ассистентом, который будет помогать по дому и работе, другие же опасаются восстания машин и дальнейшего порабощения или уничтожения человечества. К слову, угрозу в системах искусственного интеллекта видят, например, Элон Маск (Elon Musk) и Стивен Хокинг (Stephen Hawking), неоднократно озвучивавшие свою позицию. Но к какому бы из этих лагерей не относились учёные, разработчики и компании, занимающиеся данными технологиями, всем ясно одно: для того, чтобы обеспечить безопасность людей, необходимо придерживаться определённых правил при создании и развитии систем. На днях на эту тему в статье для журнала Slate порассуждал генеральный директор Microsoft Сатья Наделла (Satya Nadella).

zeenews.india.com

В первую очередь стоит отметить, что, на взгляд Наделлы, однажды люди и машины начнут работать сообща. И он верит, что это сотрудничество поможет справиться с такими проблемами человечества, как болезни, бедность и безграмотность. Сатья сформулировал шесть принципов, которые, по его мнению, обеспечат нам светлое будущее.

1. Системы искусственного интеллекта должны создаваться для помощи человечеству. Например, они должны выполнять опасную работу, но при этом «уважать самостоятельность человека».
2. Искусственный интеллект должен быть понятным. Люди должны знать, как работает технология, каким правилам она следует и как именно она анализирует мир.
3. Искусственный интеллект должен способствовать повышению эффективности процессов, при этом не разрушая человеческое достоинство. «Индустрия не должна навязывать ценности и принципы будущего», — пишет Наделла. Поэтому системы должны разрабатываться с уважением к разнообразию культур, а к процессу их создания нужно привлекать больше народов.
4. Искусственный интеллект должен гарантировать безопасность личных данных.
5. Работа систем искусственного интеллекта должна быть прозрачна, чтобы люди могли исправить вред, нанесённый машинами по непредвиденным обстоятельствам.
6. Искусственный интеллект должен быть лишён предубеждений. Дискриминация совершенно недопустима.

Развитие систем искусственного интеллекта пока находится только на начальных этапах и сейчас, на взгляд главы Microsoft, очень важно определиться с этическими нормами, которых необходимо будет придерживаться при дальнейшей работе над технологиями. И тогда машины могут стать для нас надёжными помощниками.

Источник: