Рациональные аргументы о том, что нужно сделать для развития технологии, часто вытесняются простыми, провокационными обещаниями. Эти обещания часто утверждают, что самые сложные проблемы не нужно решать для перехода к следующему этапу развития. Мотивированные рассуждения отвлекают ресурсы от реальных инженерных задач и направляют их на быстрые инвестиции, которые часто становятся жертвами типичных циклов экономического подъёма и спада. Такое положение вещей является источником постоянного разочарования для людей из научного сообщества.
В худшем случае, эти обещания и нерациональное распределение ресурсов отвлекают общество от развития соответствующих технологий. «Трудные вещи» лишаются ресурсов и интеллектуального капитала в угоду быстрым результатам. Что особенно раздражает в стремлении к «сверхинтеллекту», так это то, что разработчики на самом деле сами не знают, к чему стремятся. В отличие от разработок в других перспективных технологиях, таких как термоядерный синтез или криптографически значимые квантовые компьютеры, неясно, как вообще измерить показатель интеллектуального развития сети серверов в дата-центре. Нет также уверенности в том, что графические процессоры и модели ИИ, работающие на них, являются идеальными технологиями для воспроизведения функций мозга.
Эти факторы не остановили потоки масштабных инвестиций в сложные модели прогнозирования текста, которые плохо справляются с математикой, но создают иллюзию общения с другим человеком, вместо того чтобы сосредоточиться на специализированных инструментах, которые уже принесли значительные преимущества во всех сферах деятельности, от медицины до фотографии. Тем не менее, появление сверхразума воспринимается, как почти неизбежный прогноз, про который некоторые разглагольствуют даже с определением временных рамок – якобы до этого момента осталось «всего каких-то два-три года». Эти рассуждения создают, возможно, самую сложную в мире проблему для выполнения обещаний индустрии ИИ.
В отношении других технологий люди могут сказать: «Ну, если они не проявятся через несколько лет, то их сторонники окажутся неправы, а мы все сможем продолжать существовать дальше без них, как прежде». Разница в том, что многие сторонники развития ИИ до «заоблачных высот» будут утверждать (с серьёзным лицом), что общество не приспособлено к решению других проблем, таких как изменение климата, поэтому всем следует сосредоточить свои усилия на неограниченных инвестициях в центры обработки данных и искусственный интеллект, который затем сможет решить эти проблемы за нас.
Зачем тратить ресурсы сегодня, если остальные наши проблемы решатся завтра? Не будем учитывать, что нейросетям и различным моделям всё равно потребуется идеальное знание окружающего мира, чтобы решить эти и другие проблемы. Существует лишь предположение, что с помощью этой технологии человечество сможет вывести науку на какие-то другие высшие уровни достижений. Но любой специалист, знакомый с наукой, лежащей в основе периферии знаний, совершенно точно знает, что наши наблюдения, подкреплённые теорией, могут приводить к источникам напряжённости, требующим новых, дополнительных и непрерывных наблюдений для разрешения вновь возникающих проблем. Сокращение инвестиций может привести к устранению инструментов и отвлечению талантов, необходимых для углубления их возникновения, но к более полному пониманию нами окружающего мира.
Ситуация может даже начать приобретать теологический характер, поскольку некоторые используют язык, который делает супер-способности ИИ похожим на «энтелехию» — полную реализацию потенциала интеллекта, — предложенную Аристотелем и любимую Фомой Аквинским, приближающую человечество к истинному созерцанию. Это, очевидно, чушь, но она может дать представление о мыслях некоторых инвесторов, которые утверждают, что попытки контролировать ИИ — это то же самое, что и Антихристианство. Для таких людей может быть такие утверждения имеют смысл, если считать, что отказ человеку в доступе к сверхинтеллекту равносилен ограничению доступа к Богу. Но ведь каким-то образом человечество просуществовало тысячи лет без компьютера, а если смотреть ещё далее вглубь веков – то и без Богов вовсе.
Если технология не достигнет своих основных целей в предложенные сроки, то происходящая перестройка общества (якобы с целью максимизации потока ресурсов для достижения этой цели) уже произойдёт. Люди заменят свои инвестиции в чистую энергетику масштабными сбросами ресурсов в загрязнённую энергосеть, сократят финансирование образования в поддержку обучения с помощью магистерских программ, разрушат глобальную инфраструктуру мониторинга изменения климата, подорвут системы социальной защиты и сосредоточат ещё больше богатства в руках немногих технологических компаний. Эти идеи должны бы были обсуждаться обществом по существу, но необходимость создания «сверхинтеллекта», часто рассматриваемая в контексте национальной безопасности, что помогает всем заинтересованным лицам преодолеть обычные возражения социума.
Для тех из людей, кому не так повезло, неправильно направленные инвестиции в ИИ ухудшают их здоровье, сокращают количество рабочих мест и могут привести к значительным пробелам в развитии критического мышления и креативности. В оборонном секторе и сфере уголовного правосудия это означает возможность переложить на компьютерную систему ответственность за решения, от которых зависит жизнь или смерть. Эти последствия могут быть приемлемыми, если общественность посчитает, что ей было бы лучше с меньшим количеством высокообразованных людей, но это, как правило, плохо заканчивается, если люди придерживаются мнения, что все люди заслуживают равной защиты перед законом.
Именно поэтому такие утверждения сейчас выглядят, как совершенно глобальный политический проект. Это нечто отличное от циклов ажиотажа и спада, которые тормозят значимый прогресс в термоядерном синтезе, нанотехнологиях и квантовых вычислениях. Он должен немедленно заставить людей усомниться в мотивах технологических оптимистов, чьи политические цели также совпадают с этим набором задач. У их политического проекта есть чёткие цели, а у их новых технологий — нет. Когда побочный ущерб от неудачных инвестиций начинает выглядеть, как преимущество для тех, кто придерживается определённого набора убеждений, стоит разобраться, что происходит на самом деле, и выяснить, кто от этого пострадает в будущем.