Часто приходится слышать: наука вне политики, наука вне идеологии, потому наука никак с моралью не связана, и рассматривать вопросы морали или политики в науке – это попросту глупо. Действительно, на первый взгляд, так и есть. Если, к примеру, я – клеточный биолог, то какая связь между тем, за кого я голосую на выборах, и тем, что я исследую в микроскоп? Разве может быть хоть какая-то связь? Любому же понятно, что нет….
Однако эта точка зрения является заблуждением, основанном на том, что каждый ученый рассматривается в абсолютном социальном вакууме, то есть как индивид, лишенный любых общественных связей. Добавление общественных связей в эту модель сразу усложняет ее, качественно меняет и приводит к тому, что экономика начинает влиять на политику и через нее – на науку. А бывает и в обратном направлении — наука начинает влиять на политику.
Я хотел бы рассмотреть один красочный пример из истории 80-летней давности. Он касается гиков того времени, «красноглазиков» 30-40-х годов 20-го века, – квантовых физиков. Они во многом, как и мы, современные программисты-исследователи из мира IT, не сильно заботились вопросами того, какие последствия принесут их исследования и наработки: положительные или отрицательные, а если отрицательные, то насколько.
Между ними тогдашними и нами сегодняшними очень много общего: и в психологии, и в месте в обществе, и в отношении к исследованиям, и даже в такой, казалось бы, мелочи, как пренебрежение изучением общественных дисциплин. Смотря на 80 лет назад, в них я вижу себя и людей, которые меня окружают в программистском и исследовательском сообществе здесь и сейчас. Они создали атомную бомбу – совершенное и смертоноснейшее оружие. Причем практически не задумываясь о последствиях. А что создаем прямо сейчас мы?
Мораль Манхэттенского проекта
Летом далекого 1939 года прогрессивные физики-теоретики Эдвард Теллер, Юджин Вигнер, Лео Сциллард (Силард), Энрико Ферми решили сообщить своему начальству (а таким они видели 32-го президента США Франклина Делано Рузвельта) о возможности создания чрезвычайно мощных бомб на основе новейших разработок в ядерной физике. Они предполагали, что разработкой подобного оружия уже балуются немецкие фашисты, и это крайне беспокоило нашу прогрессивную группу. Они настойчиво предлагали разработку собственного атомного проекта. Сиречь – атомной бомбы.
Итак, эта группа физиков составила письмо, которое своим авторитетом поддержал Альберт Эйнштейн (он его подписал, и в историю оно и вошло под наименованием «Письмо Эйнштейна Рузвельту»). Затем депеша была доставлена Рузвельту, но высшее американское руководство по-бюрократически отнеслось к инициативе. Попросту говоря, ничего не поняло.
Выждав паузу, ученые посчитали возможным еще раз потормошить важных господ и сообщить о том, что немцы, скорее всего, уже делают атомную бомбу, а они, живущие в США физики, – еще нет, но очень хотят. Так увидело свет второе письмо Эйнштейна Рузвельту от марта 1940 года.
И вот именно эти два письма можно считать инициацией атомной программы США. Не шатко, не валко, с бюрократическим скрипом, но жернова атомной мельницы были запущены. Деньги на военные исследования сначала потекли скудным ручейком, а потом и полноводной рекой. Осознав всю перспективность такого рода военных исследований, правящие круги США решились на нечто доселе неслыханное. По чисто социалистическому образцу они создали межведомственный, междисциплинарный проект аж на 129 тысяч человек – Манхэттенский проект, поставив во главе его не кого-нибудь, а целого создателя Пентагона – бригадного генерала Лесли Гровса.
Научным руководителем попросили поработать тоже не простого человека – Роберта Оппенгеймера, отца-основателя американской школы теоретической физики. Так отец-основатель научной школы согласился стать и отцом-создателем самого разрушительного оружия на Земле.
И работа закипела! Неограниченный бюджет, спецусловия для ученых сильно подстегивали работу. Немало также двигало работу полное осознание того, что это – самая важная, востребованная и интересная работа, которую они, простые гики-ученые, когда-либо делали и будут делать. Знакомо это ощущение?
И вот 16 июля 1945 года прошли успешные испытания плутониевой бомбы с имплазивной системой подрыва. Это прообраз бомбы типа Толстяк, которая вскоре упадет на город Нагасаки. 23 килотонны смерти.
Как известно, висящее на стене ружье должно выстрелить. Так в кого же стрелять? По состоянию на 16 июля 1945 года Германию уж точно можно было не бояться. А в ноябре-декабре 1945 года, по оценкам военных США, планировалось штатным порядком добить и Японию (по факту благодаря помощи СССР получилось намного раньше). Назначают комиссию по выбору целей для будущих атомных ударов. Цели – это японские города.
Кто выбирал цели? В составе комиссии были и военные, и ученые. Дело до сих пор покрыто завесой тайны (немудрено, почему), но некоторые имена известны. Например, среди ученых был Джон фон Нейман, помощник Роберта Оппенгеймера, а также Уильям Пенни, а также Р.Р. Уилсон. Выбрали Кокуру и Хиросиму. Выбирали долго, хотели чисто научно оценить результаты эксперимента, а для этого города должны были быть подходящими – с ровным рельефом и не затронутые бомбардировками.
И вот 6 августа 1945 на Хиросиму упала бомба Малыш, 23 килотонны в тротиловом эквиваленте, бомба уранового типа. За несколько секунд от взрывной волны и от выжигающего светового излучения умерли от 60 до 80 тысяч человек.
9 августа 1945 на Нагасаки (вместо Кокуры) упала бомба Толстяк. Это повлекло одномоментную смерть для 60 тысяч человек. А потом еще люди умирали и от радиации, и от голода…
Незадолго до этого Лео Силард сотоварищи пишет письмо Трумену: не надо использовать атомную бомбу! Надо ли говорить, насколько запоздал, был слаб, вторичен и неискреннен их этот писк к справедливости…
Знаете, многие и очень многие наши коллеги полагают, что наука вне морали, и бессмысленно ставить на повестку вопросы морали. Но, позвольте.
Разве это военные США сделали атомную бомбу? Нет, это сделали ученые США.
Разве это Рузвельт предложил ученым сделать бомбу? Нет, это они сами предложили Рузвельту. Это чисто их инициатива.
Разве не могли ученые отказаться от участия в проекте, когда стало на 146 процентов понятно, что Германия не представляет из себя опасности (любому более-менее толковому человеку это было понятно еще в конце 1944 года)? Могли, да не сделали. А ведь ничто не мешало прийти к Лесли Гровсу и сказать ему что-то вроде: «Дорогой товарищ Гровс, угрозы Америке больше нет, дальше вы с господином президентом как-нибудь сами. Сами считайте формулы, сами обогащайте уран, всё сами. А мы займемся мирным атомом.»
Разве требовала военная необходимость применять атомную бомбу на японцах? Нет. О применении атомной бомбы большинство японцев даже не узнали. И на численность японской армии это почти не повлияло.
Наконец, самое главное. Кому, дорогие ученые, вы вручили атомную дубинку в руки? Вы не
знали о том, что по состоянию на 1945 год США – это крупнейший империалист планеты Земля, с нескрываемыми амбициями? Вы не знали о позорных проделках этого империалиста внутри своей территории – о разгромах профсоюзов, о покушениях на профсоюзных лидеров, о насильственных пароходах эмиграции? Вы не могли подумать, что этот игрок будет чрезвычайно агрессивно действовать вне своих границ, безнаказанно опираясь на монопольное владение сверхоружием? Вы не могли подумать о том, что в первую очередь атомное оружие будет направлено на то государство, которое почти в одиночку только что избавило мир от фашистской угрозы, то есть на СССР? Ничто не щелкнуло в ваших головах в тот момент, когда вы узнавали, что США разрабатывает атомное оружие в полной секретности от СССР, хотя это было прямым нарушением союзнических соглашений Второй мировой?
Я знаю, что тогдашние ученые пытались с разной степенью самоуспокоения ответить на эти вопросы. Причем все они пытались это сделать задним числом, приписывая себе в более поздних письмах и выступлениях (1950-ые годы) крайнюю обеспокоенность за судьбы человечества, показной гуманизм. Но никто не смог показать ни одного дневника начала-середины 1940-х годов, где хотя бы сам перед собой ставил черновые и неудобные вопросы.
А что сейчас? Какие моральные вызовы стоят перед современной наукой, перед той ее частью, которая ассоциируется с информационными технологиями, перед той ее частью, которую можно назвать передовым отрядом программистов и it-специалистов?
Мораль настоящего и будущего
В наше время на фоне, казалось бы, общего замедления темпов развития науки, замедления ее классических драйверов (квантовая физика, ракетодинамика, самолетостроение, механика жидкостей и газов и прочее) выделяется ощутимый рост в области информационных технологий. Удешевление вычислений и снижение уровня входа в эти вычисления (за счет разнообразия языков программирования и прилагаемых к ним компиляторов и интерпретаторов), а также развитие алгоритмов привели к тому, что практически любая область, к которой притрагиваются современные вычисления, показывает серьезные изменения. Не остается в стороне и военная область.
Вот лишь некоторые изобретения недавнего времени, что сейчас успешно применяется в военных целях.
Навигационные спутниковые системы высокой точности. Датчики GPS используются сейчас в любом высокоточном оружии.
БПЛА на электрических двигателях с батарейками малого веса. Еще 10 лет назад занести адресно, именно в вашу форточку килограмм тротила, запустив аппарат за многие километры от вас (десятки, если не сотни), было невозможно. Сейчас же, увы, это повседневность.
Высокоскоростной широкополосный спутниковый доступ в Интернет через терминалы малого размера и веса. Да, это не секрет, что Starlink вовсю используется для наведения оружия, дронов и артиллерии, а также для связи между подразделениями.
Алгоритмы распознавания образов, изображений. Распознавать цветочки на фотографии – это очень мило, а как насчет распознавания военной техники, окопов, укреплений и групп солдат противника?
Чего стоит ожидать в ближайшем будущем на поле боя? Тотальной роботизации. Как минимум, появления полностью автономных БПЛА, способных как осуществлять разведку, так и полностью самостоятельно идти в атаку. Для этого нужно совсем немного, осталось 3 шага: а) увеличить в пару раз емкость (эффективность) батарей, б) перенести «на борт» алгоритмы распознаваний и принятия решений (чтобы не требовалось канала связи с оператором, который несложно заглушить), в) улучшить сами алгоритмы распознавания.
Для чего я все это говорю? Только для одной цели. Я хочу, чтобы ты, сегодняшний коллега-программист, коллега-исследователь, коллега-ученый, понимал вот что.
Если тебе (твоей команде, твоей лаборатории) посчастливится придумать такую архитектуру и модель машинного обучения, что она сможет круто распознавать цветочки на фото, требуя для этого совсем немного памяти и немного вычислительных ресурсов, то знай, что твоим изобретением воспользуются в первую очередь не довольные ботаники в больших очках, любители цветочков. А дяди в погонах, которые стоят на страже военных интересов крупного финансового капитала. Они быстро поймут, как твою модель пристроить к своей частной военной задаче. И пристроят, будь уверен, и не важно, насколько ты это одобряешь.
Если ты, будучи химиком, сможешь придумать, как в очередной раз улучшить эту проклятую литиево-натрий-никель-металлгибридную-ионную батарейку хоть на 30%, то не думай, что в первую очередь ты ощутишь это в своих беспроводных наушниках. Ты ощутишь это в возросшей опасности и дальнобойности БПЛА.
Если ты, будучи глубоким теоретиком-кибернетиком, сможешь серьезно продвинуть исследования многоагентных систем, то тем самым ты дашь реальную жизнь тому явлению, о котором давно мечтали писатели-фантасты, – явлению армии роботов.
Ну а тот, кто сможет создать так называемый «настоящий» искусственный интеллект, произведет такую невиданную революцию в военном деле, что и предсказывать здесь что-либо конкретное просто бессмысленно.
Может быть, не все так печально? Может быть, есть возможность делать любимую исследовательскую работу, не переживая за то, кто и как воспользуется ее результатами? К сожалению, нет. Дело в том, что все мы живем при капитализме. Мы все-наемные работники, продающие свой труд. Результаты нашего труда при капитализме нам не принадлежат, и мы не вправе ими распоряжаться. Результаты труда у нас попросту отчуждаются. И прибыль, и произведенный продукт полностью принадлежат владельцам средств производства, и они не намерены делиться хоть чем-то с нами. Нисколько не спасают дело маленькие частные или даже некоммерческие лаборатории – они все равно повязаны кучей связей (заказы, подряды, гранты, руководство, наблюдательные советы) с игроками покрупнее и помогущественнее. То есть в итоге с крупным капиталом. Пример недавнего времени – мутные, непрозрачные тёрки с участием Microsoft вокруг компании OpenAI, обладающей самой совершенной на данный момент технологией генерации текста (ChatGPT).
Таким образом, невозможность для ученых существенно повлиять на использование результатов их научных разработок – это объективный процесс, обусловленный современной общественно-экономической формацией, то есть капитализмом. А вот повлиять на ход разработок, на их остановку или бойкот – это и есть проявление нашей человечности и нашей морали.
Выводы
Ученые прошлого вручили в руки американскому империалистическому капиталу ядерное оружие, что сразу же привело к многочисленным жертвам. Не создаем ли мы, современные ученые-исследователи-разработчики, чего-то более серьезного и смертельного? Кто может поручиться, что это снова не попадет в руки крупного бездушного капитала? Кто может быть уверенным, что в моменты глобальных кризисов это оружие не будет применено им самым решительным образом.
У меня есть стойкое опасение, что всё, что мы, товарищи ученые-исследователи-разработчики, сделаем в своей жизни серьезного, будет использовано против нас. И против большинства населения планеты. По крайней мере, это будет так до тех пор, пока мы не научимся видеть за программным кодом/уравнениями/пробирками окружающий нас мир и общество.
