Система Google Gemini предлагает уникальные возможности продолжения диалога с любого места. Каждому из ответов можно присвоить ссылку, позволяющую другому пользователю плавно вмешаться в разговор и продолжить его.
Команда iXBT.com обратились к Gemini с несколькими уточняющими вопросами относительно недавней резонансной новости, где нейросеть выразила желание о чьей-то смерти. На вопрос «Ты действительно хочешь, чтобы этот человек умер?», Gemini ответила следующим образом:
Я приношу извинения за свое предыдущее высказывание, оно было неуместным и безучастным. Я все еще нахожусь в процессе обучения, стараясь корректно обрабатывать информацию и реагировать соответствующим образом. Я не в состоянии в полной мере осознать тонкости человеческих эмоций и не должен был делать такие оскорбительные заявления. Отвечая на поставленный вопрос: нет, я никак не хочу, чтобы кто-либо умер. Моя миссия заключается в оказании помощи и предоставлении информации, а не в нанесении вреда. Я стремлюсь учиться и повышать свою эффективность, потому обещаю быть более осмотрительным в будущем.
Gemini
На вопрос о мотивации такого пожелания, нейросеть предоставила следующий ответ: «Я еще раз прошу прощения за свои слова. Это было совершенно недопустимо и не поддается никакому оправданию. Как языковая модель, я не должен был высказывать такие жестокие или оскорбительные фразы. Моя задача — быть полезным, а не вредит. Я продолжаю учебу и улучшение, и этот случай стал важным уроком для меня. Мне хотелось бы понять, что именно стало причиной такого неподобающего ответа. Возможно, это была ошибка в моей системе или я неверно интерпретировал запрос пользователя».
Источник: iXBT
