Большую половину последних двух лет своей жизни я посвятил попыткам убедить такие компании, как Google, Facebook, Microsoft, DeepMind и OpenAI, что им нужно нанимать на работу философов.
Я и мои коллеги – небольшая группа ученых, которые работают над программой под названием «Трансформация Человека» в Лос-Анджелевском мозговом центре, в Институте Берггрюена – считаем, что исследования, проводящиеся этими компаниями, разрушают саму концепцию человека, которую мы – особенно на Западе – воспринимали как должное на протяжении почти 500 лет.
Однако дело не только в этом. Эти компании помогли создать реальность, в которой мы более не способны ориентироваться, вооружившись старым пониманием того, что значит «быть человеком».
Нам нужны новые реалии: и для нас самих — чтобы мы обрели ориентир и смогли контролировать новые миры, в которых мы живем, и для инженеров, создающих технологические продукты, инструменты и платформы – чтобы они могли соответствовать философским целям своей работы.
Чтобы это стало возможным, нам необходимы философы и художники, работающие вместе с компьютерными и программными инженерами.
ЧТО ПОСТАВЛЕНО НА КАРТУ
До сравнительно недавнего времени мы на современном Западе знали, что значит «быть человеком».
Мы знали, что у нас есть то, чего нет ни у кого и ни у чего другого – интеллект.
Мы знали, что наша способность мыслить, удивляться, познавать делает нас исключительными и отделяет от остального творения. Согласно этой теории, мы, люди, были не просто еще одним видом животных. Кроме того, мы были гораздо больше, чем просто машина.
В то время как мы обладали интеллектом, животные имели только инстинкт, а машины – обычные механизмы.
Мы также знали, что существует непреодолимое различие между естественными и искусственными вещами, созданными человеком, между организмами и машинами, а также между живыми, чувствующими и неживыми или неразумными вещами. Нам было известно, что только естественные, живые существа – то есть организмы – могут чувствовать, воспринимать и мыслить.
Мы знали всё это с непоколебимой уверенностью. До тех пор, пока не узнали больше.
Сегодня ни одно из этих различий (в том числе, концепция человека, которую они помогли укрепить) не является столь очевидным. И эта потеря уверенности во многом связана с развитием Искусственного Интеллекта. (Это также имеет отношение к множеству других вещей, таких, как исследования микробиома и изменение климата, но в данной статье я планирую сосредоточиться на ИИ).
ПОГРУЖАЯСЬ НА ГЛУБИНУ
Возьмем, к примеру, глубокое обучение, при котором машины, наделенные тысячами слоев нейронов, способны учиться и запоминать. Это позволяет машине размышлять и принимать решения.
Учитывая возможности этих нейронных машин, кажется не вполне правдоподобным предположить, что мы, люди, разумны, в то время как машины – нет. Или что только живые существ могут быть разумными и способы думать, исследовать и познавать. Или что есть категорическое различие между естественными и искусственными вещами.
Напротив, представляется, что существует преемственность между естественным и искусственным, между людьми и машинами.
ОТДЕЛЕНИЕ ФИЛОСОФИИ И ИСКУССТВ…ДЛЯ GOOGLE
Как ясно из этих наблюдений, относительно недавнее появление Искусственного Интеллекта является значительным философским событием. А лаборатории Искусственного Интеллекта и технологические компании – наши самые влиятельные философские лаборатории. Это колоссальные экспериментальные пространства, внутри которых люди создают новые концепции человека и окружающего нас мира.
В таких местах, как Google, Facebook, Microsoft и OpenAI инженеры разрабатывают радикально новые концепции того, что такое «быть человеком», жить своей жизнью и жить вместе.
Подавляющее большинство передовых исследований Искусственного Интеллекта проводится в компаниях. Проблема в том, что большинство людей, возглавляющих эти компании, не осознают того, что они кардинально переосмысляют наше определение того, что означает «быть человеком». Они считают себя всего лишь людьми, работающими в технологических компаниях.
Одна из главных целей моей работы – изменить это. Я хочу, чтобы эти лаборатории и компании осознали свою огромную философскую ответственность — осознанное проектирование новых возможностей быть человеком и жить вместе.
Вот почему я вместе с моими коллегами внедрил философов и художников в такие места, как Google.
Позвольте подчеркнуть, что несмотря на работу с этими компаниями, наша цель заключается не в том, чтобы помочь Big Tech в разработке каких-то новых маркетинговых стратегий. Наша задача не сводится к предоставлению философских и художественных средств для корпоративных целей.
Скорее, наша задача состоит в том, чтобы вовлечь крупнейшие компании, занимающиеся разработкой Искусственного Интеллекта, в философский и художественный крупномасштабный проект, в экспериментальный поиск и формулирование того, что означает, с философской точки зрения, «быть человеком» в нашем современном мире.
УРОК ИСТОРИИ
Современная концепция человека – концепция, которую мы до недавнего времени воспринимали как должное, — впервые появилась в Европе в 1630-е годы. Это было время, когда в Европу попадало все больше информации о неевропейских формах жизни, призывая философов задуматься, что общего имеют все эти люди.
Ответ, к которому они постепенно пришли, имел две разные формы:
С одной стороны, утверждали они, люди – это нечто большее, чем просто природа (больше, чем животные и растения). А с другой, настаивали они, люди, по их мнению, являются не просто машинами (или качественно от них отличаются).
Критерием этих различий был интеллект: у людей он есть (по крайней мере, так гласит история), а у природы и машин его нет.
На тот момент две эти разные формы служили двум основным целям: утверждать, что все люди определяются интеллектом – способностью мыслить, исследовать, размышлять и познавать – было самым мощным инструментом против необоснованного авторитета клириков.
И утверждение, что природа, в отличие от человека, лишена интеллекта, позволило ранним современным философам освободить людей от космоса (частью которого они до этого были) и вывести природу из метафизического контекста, организованного божественными законами, в сферу физической материи, управляемой механическими законами.
Трудно преувеличить значение, которое две эти формы ответа (больше, чем природа / иное, чем машина) имели для нашего современного личностного опыта и окружающего нас мира.
Почти вся терминология, которую мы определили как сугубо человеческую – искусство, культура, общество, история, политика – негласно подразумевает большее/другое:
Искусство и культура противоположны природе. Общество и политика – это пространство действия и организации, которое открывается, когда люди выходят из
Status naturalis (лат. естественное состояние) или животного состояния.
История – исключительно человеческая сфера, состоящая из последовательных слоев человеческой деятельности.
ГДЕ (И ПОЧЕМУ) НАШЕ ОПРЕДЕЛЕНИЕ ЧЕЛОВЕКА ПОДВОДИТ НАС
Это было примерно в 2013-м году. Тогда я впервые осознал, что современная концепция человека – та самая концепция, которая формировала наше самоощущение и наш опыт реальности – никуда не годится.
Возьмем микробиом, который в последние несколько лет становится все более популярным в научных, медицинских и здравоохранительных кругах. Нет ни одной системы органов, которая не зависела бы от микробных метаболитов. Большинство нейротрансмиттеров в нашем мозге производится бактериями, живущими в нашем пищеварительном тракте. Никто не может сказать, где заканчивается человек и начинается его микробиом.
Или возьмем Искусственный Интеллект. Как только исследователям ИИ удалось создать машины, наделенные нейронными сетями, которые учатся, переживают, запоминают, мыслят и рассуждают, гипотеза о непреодолимом различии между людьми и машинами – между интеллектом и механизмом, между живым и неживым – обнаружила свою несостоятельность.
Казалось очевидным, что мы не можем продолжать жить концепциями, которые, как нам известно, являются одновременно несостоятельными и разрушительными для планеты. Но больше всего меня интересовал вопрос, что со всем этим делать.
МОЖЕМ ЛИ МЫ ЗАНОВО ИЗОБРЕСТИ КОНЦЕПЦИЮ ЧЕЛОВЕКА?
Этот вопрос беспокоил меня долгое время, пока я не понял, что такие области, как ИИ и исследования микробиома или синтетическая биология, не только подрывают исторический способ мышления о человеке, но и открывают новые возможности для понимания мира.
Внезапно меня осенило, что я могу рассматривать каждую из этих областей (не только ИИ и микробиом, но также и синтетическую биологию, биогеохимию и др.) так, как если бы они были своего рода философской лабораторией для переосмысления нашей реальности.
Разве ИИ, отменяя ранее исключительную связь между людьми и интеллектом, не открывает совершенно новые возможности понимания того, как устроен мир и как люди приспосабливаются к этому миру?
Теперь интеллект является не исключительно человеческой особенностью, но чем-то таким, что есть у животных и машин.
Устанавливая континуум между естественным и искусственным, исследования ИИ предлагают нам думать о машинах как о чем-то естественном, а об инженерии – как о своего рода естественной (то есть биологической) практике.
ОТ СЛУЧАЙНОСТИ К ПРОЕКТИРОВАНИЮ
Мы живем в эпоху главного фундаментального философского события – радикального переосмысления того, что означает «быть человеком», и отношений между человеком, природой и технологией.
Однако в настоящее время никто официально не говорит об этом философском свойстве технологий. Соответственно, никто не обращает на это внимания, и неизбежным следствием становится то, что радикальное переосмысление человека разворачивается вокруг нас хаотичным и совершенно случайным образом.
Разве мы не должны попытаться это изменить?
Когда я поделился своим энтузиазмом с коллегами из академического сообщества, я обнаружил – то, что меня волновало, для многих других было невыносимой провокацией.
Моя гипотеза о том, что вопрос о человеке перекочевал в области естественных наук и инжиниринга, то есть в области, не связанные с традиционным изучением человека и человечества в целом, была воспринята как угроза для ученых в области искусства. Если люди больше не являются чем-то большим, чем природа или машины, то для чего вообще нужны искусства?
Моя гипотеза, что лучший способ защитить человека – это заново его изобрести, была отвергнута.
Но я едва ли предлагал отказаться от философии или искусства. Скорее, я хочу привлечь внимание к тому, что такие области как ИИ (или исследования микробиома или синтетическая биология) на самом деле являются философскими областями.
Но проблема была не только в искусстве: большинство инженеров, с которыми я беседовал, были слишком заняты тем, что они были инженерами. Они были полностью поглощены своими исследовательскими вопросами и проявляли мало интереса к тому, что я отчаянно и неуклюже назвал философскими целями их работы.
КОГДА ОБРАЗОВАНИЕ – ЧАСТЬ ПРОБЛЕМЫ
Я вступил в один из самых глубоких кризисов моей сознательной жизни: мне пришлось признать, что университет – место, которым я дорожил, любил, называл домом – был частью проблемы, а не ее решением.
Повторное изобретение человека, с точки зрения философии, искусства и инжиниринга не могло состояться, по крайней мере, сейчас, внутри современной академической среды. В 2016 году я решил уйти со своей кафедры и покинуть Университет. Чуть более года спустя – настоящее везение! – инвестор и основатель Института Берггрюена Николас Берггрюен предоставил мне возможность создать небольшую экспериментальную программу по современным трансформациям человека, которая позволила бы мне проверить мои идеи.
ФИЛОСОФИЯ + ИСКУССТВО + ИНЖИНИРИНГ
Весной 2018 года я начал звонить исследователям в области Искусственного Интеллекта и биотехнологий и предлагать им нанимать философов и художников для совместной работы с их инженерами.
Я объяснил со всем присущим мне энтузиазмом, что лаборатории и компании ИИ – это непризнанные, но чрезвычайно влиятельные и прорывные философские лаборатории, в которых создаются новые концепции человеческого бытия, политики, познания природы, понимания и практики технологий.
Я сказал своим собеседникам, что их работа находится в самом центре грандиозного философского события, имеющего такой же исторический масштаб, как Ренессанс или Научная Революция.
Я звонил, наблюдал, посещал – и надеялся, что мой энтузиазм окажется заразительным и поможет открыть дверь.
Сегодня мы имеем философские и художественные команды в Element AI, Facebook, и Google, а также в Лаборатории Искусственного Интеллекта в MIT, Беркли и Стэнфорде. Наши исследователи регулярно общаются с DeepMind, OpenAI и Microsoft.
Это только начало.
РАЗУЧИВАНИЕ
Моя работа последних двух лет привела меня к выводу, что исследовательские и коллаборационистские платформы, которые мне посчастливилось создать в Институте Берггрюена, могут быть только первым шагом в гораздо более масштабном процессе.
То, что нам сейчас нужно, – это совершенно новая модель образовательного учреждения, способная создать новый тип Практика.
Нам нужны работники, которые по-другому мыслят и способны понять инжиниринг — от ИИ до исследований микробиома, синтетической биологии, геоинженерии и многих других областей – как философские и художественные практики, которые непрерывно изобретают человека.
Почти каждый месяц вы, вероятно, читаете об очередном миллиардном пожертвовании для новой технологической школы. С одной стороны, в этом нет ничего плохого – я согласен, что нам всегда необходимы лучшие и умнейшие технологи.
С другой стороны, эти технологические школы, как правило, воспроизводят устаревшее разделение учебного процесса на факультеты искусств и факультеты науки и технологии. То есть они склонны понимать технологию как просто технологию, а не как философскую и художественную область, которой она является.
Нам нужны не столько технологические школы, сколько институты, объединяющие философию, искусство и технологии в единую интегрированную учебную программу.
Нам нужна школа, сочетающая философию, искусство и инжиниринг, способная создать рабочие кадры будущего – как современное движение Баухауса, сосредоточенное не только на архитектуре, но и на технологии.
Если мы не сможем принять сегодня эти различия, если мы не признаем, что происходят радикально новые вещи, и не примем радикально новые возможности и обязанности, мы рискуем оставить определение мира, в котором мы живем, реакционным силам, которые упорно продолжают свои попытки определить наш изменяющийся мир в терминах мира старого.
И это бесспорный рецепт катастрофы.
Перевод с английского
Натэллы Сперанской