Каждый день мы общаемся со всем багажом знаний человечества. Но становимся ли от этого умнее?
Порой я замечаю за собой любопытную странность. Открываю новый диалог с искусственным интеллектом, начинаю писать вопрос и вдруг понимаю: ответ уже в общих чертах сложился у меня в голове. Я представляю, какие доводы услышу, в чём со мной согласятся и где, вероятно, возразят. И всё же нажимаю Enter. Читаю ответ, иногда вступаю в спор, а иногда просто закрываю вкладку и возвращаюсь к своим делам.
Но зачем я вообще задал этот вопрос? Если ответ был мне известен, чего же мне не хватало: знаний, уверенности, собеседника или, возможно, разрешения довериться собственной мысли?
Последний вариант тревожит меня особенно сильно. Ведь если человеку нужно одобрение машины, чтобы поверить себе, то чему он на самом деле научился?
Я разработчик и люблю придумывать разные вещи — порой необычные, а на первый взгляд и вовсе бесполезные. Могу несколько дней изучать устройство нейронных сетей, затем увлечься нейроморфными вычислениями, неожиданно задуматься, почему организм человека почти бессилен перед развившимся бешенством и чем от него принципиально отличается столбняк, а через час выяснять, как ремонтируют протекающий топливный бак автомобиля.
На первый взгляд эти вопросы почти никак не связаны. Но для меня такое любопытство — естественная часть жизни. Я не стремлюсь одновременно стать врачом, нейробиологом, автомехаником и инженером. Мне просто хочется понять, почему мир устроен именно так.
И впервые в жизни у меня появилась возможность задавать вопросы почти без ограничений.
Когда ответа больше не нужно ждать
Вспомним, как мы осваивали новое раньше. Не обязательно возвращаться на двадцать лет назад: достаточно представить время, когда большие языковые модели ещё не стали повседневным инструментом.
Возникает проблема. Ты открываешь поисковик, попадаешь на форум и находишь обсуждение 2013 года. На первой странице кто-то задаёт ровно тот же вопрос. На второй ему сообщают, что он идиот. На третьей спорят о том, какую операционную систему следовало выбрать, хотя дело вовсе не в ней. На четвёртой автор благодарит участников и пишет, что во всём разобрался. Разумеется, не уточняя как.
Знакомо, не правда ли?
Впрочем, я вовсе не утверждаю, что раньше всё было плохо. Именно на форумах, в статьях и переписке нам встречались люди, искренне готовые делиться опытом. Один терпеливо рассказывал начинающему системному администратору, что такое BGP. Другой проводил вечер, разбираясь в чужом коде. Третий просто замечал: «Посмотри, здесь ошибка. Попробуй по-другому».
Эти люди становились нашими учителями. Мы могли забыть их имена и никнеймы, но до сих пор пользуемся тем, чему они нас научили.
А теперь представьте, что подобный собеседник доступен в любое время суток. Его не раздражает десятый вопрос подряд, он не отправляет тебя к документации вместо объяснения и не интересуется, зачем тебе понадобилось разбираться в какой-то ерунде. Можно перейти от программирования к иммунологии, затем к физике и снова вернуться к коду. Разговор продолжится так, будто в этом нет ничего необычного.
Разумеется, перед нами не всеведущий наставник. Модель ошибается, выдумывает факты, путает причины со следствиями и способна очень убедительно излагать нелепости. И всё же психологически такой диалог воспринимается совсем не так, как поиск информации.
Раньше у каждого вопроса была своя цена: требовалось искать, ждать, а порой и преодолевать неловкость, обращаясь к более опытному человеку. Теперь эта цена настолько мала, что мы почти не замечаем, как возникает вопрос.
Возможно, это одна из важнейших перемен в нашей повседневности, масштаб которой нам ещё только предстоит осознать.
А вдруг мне нужен не ответ?
Вернусь к наблюдению, с которого начал. Зачем я обращаюсь к искусственному интеллекту с вопросом, если собственное представление об ответе у меня уже есть?
Работая над технологиями удалённого рабочего стола, я не раз сталкивался с непростыми архитектурными решениями. Приходилось создавать собственные протоколы, экспериментировать с передачей изображения, изучать кодеки и отказываться от идей, на которые уже ушли месяцы.
К примеру, я годами разрабатывал собственный кодек EVRTCK. Когда я обсуждал подобные замыслы с нейросетями, они приводили вполне разумные возражения. Зачем заново изобретать велосипед, если готовые кодеки уже существуют? Почему бы не использовать промышленные решения вместо того, чтобы тратить время на собственную реализацию?
Эти доводы справедливы. В самом деле, зачем?
Но я продолжил работу. Не потому, что считал себя умнее всех создателей кодеков, а потому, что решал несколько иную задачу. Мне требовалось эффективно передавать определённый тип изображения в определённых условиях, а не создавать универсальную замену существующим технологиям.
В итоге EVRTCK нашёл своё место в гибридной архитектуре рядом с обычными видеокодеками. Он не вытеснил их и не сделал ненужными, а стал инструментом для решения конкретной задачи.
Что случилось бы, прими я первоначальный совет и откажись от экспериментов? Возможно, сэкономил бы несколько лет. Возможно, ничего важного не упустил бы. А может быть, так никогда и не узнал бы, способна ли моя идея работать.
И тут возникает вопрос, который не даёт мне покоя.
Когда искусственный интеллект советует нам чего-то не делать, получаем ли мы полезную рекомендацию или лишь чьё-то представление о пределах возможного?
Причём речь не только об ошибках модели. Порой она совершенно справедливо предлагает наиболее простой, рациональный и проверенный путь. Но рациональное решение задачи и стремление исследовать неизвестное не всегда совпадают.
Можно всю жизнь ездить на готовом велосипеде. А можно разобрать его до последнего подшипника, изготовить собственное колесо, убедиться, что оно уступает заводскому, и при этом узнать о механике больше, чем за годы обычной езды.
Эксперимент не обязан каждый раз приводить к революции. Иногда достаточно того, что человек самостоятельно нашёл ответ.
Но есть и другая сторона. Собственное упрямство легко превратить в красивую легенду. Не любой отказ от готового решения становится исследованием, и далеко не каждая тысяча потраченных часов приносит полезные знания. Порой велосипед действительно следовало просто купить.
Как отличить одно от другого? Не уверен, что здесь существует универсальный ответ.
Если машина утверждает: «Это невозможно»
Меня всё сильнее занимает одна особенность наших отношений с ИИ. Мы привыкаем, что он способен ответить почти на любой вопрос. И не просто ответить, а выстроить объяснение так последовательно, что усомниться в нём психологически непросто.
Спросите, можно ли создать нейронную систему, способную учиться без привычной внешней награды. Вам расскажут о существующих подходах, математических ограничениях, трудностях обучения и устойчивости. Возможно, предложат десяток готовых алгоритмов. А иногда скажут, что ваша идея слишком примитивна, противоречива или вовсе бессмысленна.
С похожими вопросами я столкнулся, когда начал эксперименты с ZERO — искусственным нейронным организмом. Замысел был достаточно прост: создать небольшой организм с рецепторами и моторами, который испытывает давление среды и пытается научиться действовать так, чтобы его уменьшить. Не большую языковую модель и не очередного чат-бота, а маленькую систему, у которой вообще нет языка.
Мне хотелось выяснить, способна ли такая система вырабатывать полезное поведение благодаря собственному опыту. И, что ещё важнее, как отличить подлинное обучение от случайного удачного движения?
Вместе с нейросетями мы обсуждали архитектуру, разрабатывали проверки и меняли условия экспериментов. Проводили серии запусков, меняли обучающие сигналы местами, инвертировали их и сравнивали результаты с контрольными вариантами.
И знаете, что оказалось интереснее всего? Не положительные результаты отдельных опытов. И даже не возможность наблюдать причинный эффект при изменении обучающего сигнала. А то, как легко обмануть себя привлекательными цифрами.
Достаточно получить хороший результат — и уже хочется объявить о победе. Нейросеть называет эксперимент впечатляющим — и возникает соблазн поверить, будто ты совершил нечто выдающееся. Но стоит изменить контрольные условия и проверить другие случайные начальные состояния, как часть красивой картины исчезает.
И это прекрасно. Ведь исследование продолжается не тогда, когда тебе сказали «молодец», а тогда, когда ты нашёл способ проверить, не ошибаешься ли сам.
На мой взгляд, самая серьёзная опасность в общении с ИИ — даже не галлюцинации. С ними хотя бы понятно, что факты необходимо проверять. Куда опаснее убедительный ответ, подтверждающий то, во что тебе и без того хотелось верить.
Машина может стать отличным инструментом проверки гипотез. Но с той же лёгкостью она превращается в неиссякаемый источник аргументов в пользу твоей правоты.
А теперь представьте человека, который годами беседует именно с таким собеседником.
Становится ли он умнее? Или лишь всё искуснее убеждает самого себя?
Мы утрачиваем способность мыслить или осваиваем новый способ мышления?
Я часто слышу споры о том, что искусственный интеллект отучает людей думать самостоятельно. Студенты больше не пишут работы сами, программисты не вникают в код, остальные перестают запоминать информацию.
В некоторых случаях, вероятно, так и происходит. Но меня смущают столь всеобъемлющие выводы.
С появлением калькуляторов нам стало реже нужно выполнять сложные арифметические вычисления в уме. Поисковые системы позволили меньше запоминать точные адреса страниц и чаще полагаться на возможность найти нужное. Теперь языковые модели меняют ещё один процесс — путь от вопроса к объяснению.
Однако сэкономленные усилия не обязательно направляются на мышление. Они могут обернуться и ленью. Всё зависит от того, что человек делает после получения ответа.
Представим двух разработчиков. Первый получает от нейросети готовый код, добавляет его в проект, убеждается, что программа запускается, и переходит к следующей задаче. Второй получает тот же код, но выясняет, почему выбран именно этот алгоритм, что случится при переполнении буфера, можно ли уменьшить количество выделений памяти и как система поведёт себя при потере сетевых пакетов.
Оба воспользовались искусственным интеллектом. Оба получили работающую программу. Но приобрели ли они одинаковые знания?
Я не собираюсь утверждать, будто всегда веду себя как второй разработчик. Иногда мне тоже необходимо просто быстро справиться с задачей. И я не вижу ничего плохого в том, чтобы доверить машине рутину. Не обязательно каждый раз заново придумывать сортировку массива, чтобы доказать свою способность программировать.
Проблемы начинаются тогда, когда мы перестаём различать обладание результатом и его понимание.
То, что программа заработала, ещё не значит, что ты понял принцип её работы. Объяснение устройства иммунной системы от нейросети не заменяет медицинского образования. А двадцать прочитанных страниц об архитектуре нейронных сетей не гарантируют, что ты сможешь самостоятельно воспроизвести описанные идеи.
Информация, понимание и навык — не одно и то же.
Мне кажется, искусственный интеллект поразительно хорошо создаёт ощущение понимания. Он убирает паузы, заполняет пробелы и подбирает доступные аналогии. В результате сложная тема больше не выглядит сложной.
Но попробуйте спустя неделю объяснить её другому человеку без подсказок. А ещё лучше — применить полученные знания в ситуации, для которой нет готового примера.
Возможно, именно тогда станет ясно, чему вы действительно научились.
Самый терпеливый из моих собеседников
Теперь я хотел бы ненадолго отвлечься от программирования.
Есть одна особенность, о которой мы говорим не так часто: нам бывает стыдно не знать элементарных вещей. Особенно во взрослом возрасте, когда за плечами профессия, опыт и какие-то достижения. Кажется, будто задавать определённые вопросы уже поздно.
И вдруг появляется собеседник, перед которым не нужно притворяться специалистом.
Можно признаться, что не понимаешь фундаментального принципа. Можно пять раз попросить объяснить одно и то же другими словами. Можно начать с вопроса, который кажется детским, и постепенно добраться до весьма сложной теории.
В этом есть удивительное чувство свободы.
Я много лет занимаюсь программированием, но число вещей, которых я не знаю, не уменьшается. Скорее наоборот: чем глубже погружаешься в одну область, тем больше замечаешь соседних, о существовании которых прежде даже не подозревал.
И теперь я могу почти бесконечно исследовать эти ответвления.
Но есть важная деталь, о которой говорят редко. Живой учитель умеет не только объяснять, но и вовремя остановить ученика. Заметить, что тот увлёкся не тем, что вопрос основан на ложной предпосылке или что сначала стоит попробовать сделать что-то собственными руками.
Он может даже не дать готового ответа, понимая, что самостоятельная попытка принесёт больше пользы.
ИИ тоже иногда поступает подобным образом, особенно если попросить его возражать и критиковать. Но такая критичность нередко оказывается ещё одной услугой, которую мы сами себе заказываем.
Захотел похвалы — попросил оценить идею. Понадобилась жёсткая критика — попросил перечислить недостатки. Решил подтвердить собственную правоту — сформулировал вопрос так, что желаемый ответ уже в нём заложен.
Получается любопытная ситуация: я одновременно ученик и человек, который выбирает, насколько строгим будет его учитель.
А если замечание мне не по душе, я всегда могу начать новый диалог.
С живым человеком такое не проходит. Во всяком случае, без последствий для отношений.
В чём ценность собственного вопроса?
Есть и ещё одно наблюдение, которое мне пока непросто выразить окончательно.
Прежде, столкнувшись со сложной задачей, я мог подолгу носить её в голове. Порой решение приходило во время совершенно постороннего занятия. Порой новая мысль появлялась только после нескольких ошибок.
Теперь между возникновением трудности и обращением к ИИ всё чаще не остаётся никакой паузы.
Появилась идея — спросил. Обнаружил ошибку — спросил. Не получается выбрать один из двух вариантов — снова спросил.
С одной стороны, это невероятно экономит время. С другой — не лишаемся ли мы самого процесса, в котором возникает собственное решение?
Ведь мысль рождается не только из полученной информации. Иногда её источник — раздражение, неудачный опыт или невозможность найти ответ. Несколько часов бьёшься над проблемой, начинаешь сомневаться в исходных предположениях, переосмысливаешь задачу и вдруг понимаешь, что всё это время задавал неверный вопрос.
Что будет, если мы станем получать достаточно убедительные ответы прежде, чем успеем усомниться в правильности самого вопроса?
Я не считаю, что ради этого нужно намеренно отказываться от технологий и возвращаться к форумам десятилетней давности. Вряд ли такой способ развития интеллекта был бы разумным.
Но мне хочется сохранить за собой право какое-то время не знать ответа.
Не торопиться заполнить каждый пробел. Не сверять каждую мысль с машиной. Не превращать любопытство в череду запросов, за которыми непременно должен следовать готовый вывод.
Возможно, для настоящего обучения нужны не только ответы, но и пространство между ними.
Пространство, где человек остаётся наедине с собственной мыслью.
А если меняется не объём знаний, а качество вопросов?
И всё же я не воспринимаю происходящее как трагедию. Напротив, мне необычайно интересно жить именно сейчас. Особенно потому, что я застал путь от телевизора, к которому приходилось подходить, чтобы переключить канал, до эпохи ИИ.
Мне кажется, непрерывный диалог с искусственным интеллектом способен изменить не столько количество наших знаний, сколько сам способ задавать вопросы.
Сначала человек интересуется, как работает определённая технология. Получив объяснение, спрашивает, почему она устроена именно так. Затем выясняет, какие ограничения мешают сделать её иначе. А после неожиданно допускает, что некоторые из этих ограничений, возможно, вовсе не фундаментальны.
Далеко не каждый такой разговор ведёт к открытию. Чаще всего — нет. Но он может расширить круг направлений, в которых человек вообще готов искать.
В собственных разработках я постоянно наблюдаю, как одна задача постепенно превращается в другую. Пытаешься улучшить передачу изображения, затем изучаешь аппаратное кодирование, сетевые задержки и планировщики, а в конце размышляешь об архитектуре системы, которая самостоятельно выбирает наиболее подходящий способ выполнения работы.
И всё это вырастает из достаточно простой исходной проблемы.
В какой момент произошло обучение? Когда я узнал о принципах видеокодирования? Когда написал очередной фрагмент кода? Когда провёл измерения? Или когда осознал, что первоначальная постановка задачи была слишком узкой?
Думаю, понемногу — на каждом из этих этапов. Но самое ценное случилось тогда, когда я сумел задать вопрос, который прежде даже не пришёл бы мне в голову.
И именно здесь искусственный интеллект способен принести настоящую пользу. Не потому, что у него есть ответ, а потому, что он помогает добраться до следующего вопроса.
Однако для этого необходимо одно условие: человек должен сохранять готовность спорить.
В том числе с ответами, которые ему нравятся.
Согласиться или бросить вызов?
В начале статьи я задумался о собственном поведении: почему продолжаю задавать машине вопросы, даже предполагая, что она ответит.
Теперь мне кажется, что дело не только в поиске подтверждения или новых сведений. Иногда мне хочется столкнуть свою мысль с другой и проверить, выдержит ли она возражения. А иногда просто любопытно, куда приведёт разговор, если заранее не определять его итог.
Но я понимаю и связанную с этим опасность.
Можно так привыкнуть к бесконечному диалогу, что собственная мысль начнёт казаться незавершённой без ответа извне. Можно незаметно передать машине право решать, какие идеи стоит исследовать, а какие — нет. Можно научиться красиво рассуждать о сложнейших вещах, совершенно не умея применять их на практике.
И всё это будет сопровождаться приятным ощущением непрерывного интеллектуального роста.
Мне не хотелось бы однажды обнаружить, что я разучился думать и лишь освоил искусство составления запросов.
В то же время я не могу отрицать, сколько новых вопросов принесла в мою жизнь эта технология. Сколько тем я начал изучать лишь потому, что теперь могу задать самый нелепый вопрос и постепенно добраться до серьёзного разговора. Сколько раз пересматривал своё мнение благодаря аргументам, которые сам не смог бы сформулировать.
Поэтому готового вывода у меня нет. И, пожалуй, именно это мне нравится больше всего.
Я не знаю, станем ли мы умнее благодаря постоянному общению с искусственным интеллектом. Не знаю, научимся ли мыслить глубже самостоятельно или, напротив, всё чаще будем поручать эту работу машине. Вероятно, найдутся и те и другие. А иногда это будут одни и те же люди, только в разные дни.
Но кое-что я всё же хочу сохранить.
Способность услышать от искусственного интеллекта «это невозможно» и не принять его слова за окончательный ответ.
На протяжении всей истории человечества мы слишком часто ошибались, определяя границы возможного. И появление машины, способной убедительно объяснить почти всё, не означает, что теперь эти границы установлены раз и навсегда.
Возможно, однажды искусственный интеллект и вправду сможет ответить почти на любой наш вопрос. Но мне хочется верить, что человек сохранит важную привычку — сомневаться даже в самом убедительном ответе.
И в этом тексте тоже.
А теперь я хочу спросить вас, читателей, о том, что мне действительно интересно. Не о том, сколько задач вы стали решать быстрее и сколько рабочих часов экономите с помощью нейросети.
Замечаете ли вы, что благодаря ИИ у вас возникают вопросы, которых прежде не было? Или всё чаще обращаетесь к нему с тем, над чем раньше попытались бы поразмышлять самостоятельно?
Я пока не понял, какой из этих процессов сильнее во мне. Возможно, поэтому и продолжаю задавать вопросы.
Артур Валиев.
AlphaGenome 2: как глубокое обучение раскрывает механизмы регуляции генов и развития болезней
Как добиться десятикратного ускорения A* в условиях пробок
«Селдон»: как я обучала модель предсказывать войны и девальвации без подсказок из будущего
Когда ИИ решает, что вам запрещено: от Codex до этикосферы Станислава Лема
OpenAI увеличивает число бесплатных подписок для учёных до 200 тысяч, но теперь предлагает ChatGPT Plus
Колебания чёрных дыр помогут с высокой точностью проверить теорию относительности
Миниатюрные роботы смогут кувыркаться в сосудах и помогать растворять тромбы
Астрономы впервые увидели исчезновение планеты-гиганта и выяснили, как это произошло