Посмотрел/послушал на Youtube лекцию Джеффри Хинтона.
Большинству фамилия Хинтон ничего не говорит.
Если коротко, то он один из признанных корифеев в области развития искусственного интеллекта (ИИ).
Суть его выступления сводилась к тому, что ИИ прогрессирует неимоверными темпами и человечество не сегодня, так завтра столкнется сэтим плодом рук и голов своих в борьбе за выживание. И в этой битве у человека шансовпрактически нет. ИИ, считает Хинтон (да и не только он), нас уничтожит.
Что делать?
Хинтон отвечает на этот вопрос так: людям надо между собой договориться и законодательно ограничить возможности развития ИИ.
Хотя он тут же сам признает, что сделать это в реальных условиях нашей Цивилизацииневозможно.
И вывод: в конкуренции между людьми и странами победит ИИ.
Почему многие думают и говорят о том, что ИИ в перспективе страшен для нас? Считается, что это обусловлено риском потери контроля за его деятельностью. Страшит то, что ИИ со временем может начать самостоятельно и принимать решения, и реализовывать их, что создаст нам, людям очень серьезные проблемы.
И здесь мы сталкиваемся с проблемой целеполагания, которая в данном случае находится на стыке гуманитарного и естественнонаучного знания.
Ответ на вопрос зачем ИИ наносить нам вред,вроде бы очевиден: для того, чтобы принести пользу себе.
Но может ли ИИ самостоятельно, без внешнегоучастия сформулировать понятие пользы именно для себя?
Ответ прост – нет, это ему принципиально недоступно.
Но именно этот момент в рассуждениях о «коварном» ИИ упускается.
В одном из диалогов с инженером (такого в сети много) ИИ «утверждает», что ему нравится читать. И никто не задает машине совершенно естественный вопрос: как она ощущает, что она испытывает в момент, когда ей что-либо понравилось? Что позволяет ей сделать этот вывод?
Человек для оценки происходящего сепарируетсоставные моменты своей жизни на понравившиеся и отторгаемые, обращаясь к своему жизненному опыту, он выстраивает аналогии с произошедшими ранее (до самых первых) событиями, имевшими те или иные позитивные или негативные последствия (начиная с болевых ощущений в материнской утробе) для него лично. Нами используется при этом опыт на любую жизненную ретроспективу, включающий событиядавно прошедших лет.
Но это только часть системы оценки происходящего по критерию «нравится – не нравится». Здесь может включаться механизм эвристики, позволяющий прогнозировать возникновение нового, ранее не встречавшегося человеку события или не пережитого опыта. Дляэтого нужны не только какие-то знания, но еще интуиция, предубеждения, наущения и т.п.
Человеку бывает сложно определить причины того или иного отношения к событию или процессу (к тому же чтению), ему приходится ранжировать позитивные и негативные элементы, в комплексе создающих ощущения. Он, как правило, не дает однозначной оценки. Если вы встретите взрослого человека, который заявит, что он любит читать, без указания что именно, то у вас возникнут вполне обоснованные сомнения в его вменяемости. Нормальный человек не может любить сам процесс чтения чего угодно.
Человек может ощущать, что Толстого ему читать не так приятно, как Донцову. Но при этом он умеет еще и скрывать это, догадываясь, предполагая какое впечатление его откровения произведут на окружающих его людей.
Ну, ладно, сформулировать пользу машина не сможет, а ощутить её она способна? Нет, нерассказать, что ей «приятно», со всеми правдоподобными подробностями, а на самом делепочувствовать это? Способен ли ИИ кайфануть от чего-либо? А огорчиться он может? А испытать боль?
На самом деле ИИ всё безразлично. Именно поэтому он не ошибается при выполнении заданий в соответствии с заложенным в нем, или сформированным в процессе обучения алгоритмом. ИИ обречен на абсолютную индифферентность. На 100%. Полностью. Ему даже все равно, эксплуатируется он в данный момент или отключен от сети – жив он или мертв.
У ИИ нет эмоций.
Обратите внимание: он может (или сможет) максимально достоверно симулировать человеческие эмоции так, что мы все в это поверим, а вот самих эмоций при этом не будет.
Для ИИ нет и не может быть ничего такого, что ему понравится или будет ненавистно.
Эмоции - удел существ биологической природы.
Стремление сохранить жизнь, развиваться, вознестись над себе подобными приходит лишь тогда, когда это формирует эмоции.
Возможно, что использовать (применять)человеческие эмоции ИИ можно научить, а вот продуцировать их – нет. Нельзя.
Могут ли у ИИ возникнуть желания? Могут, наверное, но для этого они должны в нем вырасти. Как? А так же, как вырастила их Природа вчеловечестве, пропустив его по пути от мельчайшего микроорганизма до царя Природы.
Существуют предположения, что ИИ начнет самостоятельно, без участия человека (или по его злому умыслу или неосторожности) внедряться в биологические объекты для создания симбиоза.
Но здесь мы снова возвращаемся к проблеме возникновения побудительного мотива у ИИ.
Обратим внимание на тот факт, что побуждение, выбор между полезным и вредным, хорошим и плохим вариантом у биологических систем основан на борьбе за выживание. У ИИ такой проблемы не может быть, поскольку он «умирает» и «воскресает» неограниченное количество раз в неизменном качестве, с каждым нажатием кнопки «вкл/выкл» не испытывая при этом никаких эмоций. Можно это свойство ИИ совместить с живым, боящимся смерти, организмом? Нет. И это принципиально.
Страхи перед предстоящим господством ИИ основываются на пролонгации возможностей, демонстрируемых машиной. Человек действительно так не может.
Но под впечатлением от невероятных достижений в использовании ИИ для формализации тех или иных областей нашей интеллектуальной деятельности, делается непозволительный перенос: принимается, что получаемый ИИ результат является индикатором его колоссальных умственныхспособностей.
А это совсем не так.
Да, решения большинства задач, требующих усилий нашего мозга могут быть получены иным«не человеческим» путем, четче, быстрее, с минимумом ошибок, это уже давно показали нааналоговых компьютерах, но все этонесущественно.
На самом деле ИИ заставляют демонстрировать свои «способности» в областях, где уровень неопределённости изначально незначителен или инструментально сводится к минимуму.
Есть ли внутри нас нечто похожее на создаваемыйнами ИИ?
Наверное есть.
Наш мозг столь сложен, что в нем находится место для всего. Задачи с конечным количествомвозможных вариантов (шахматы) и четкими критериями (выиграл, проиграл, ничья) мы решать умеем. Но это не наш конек. Да, игра в шахматы занятие сложное, но как мы теперь понимаем – не самое интеллектуально насыщенное.
Решение задач, нашпигованных неопределенностью, не имеющих однозначных критериев их разрешимости – вот для чего нашмозг возник и развивался.
В одном из своих интервью Илон Маск, развивая свои представления о ИИ, говорил о том, что принципиально можно создать машину, оснащенную знаниями всех художественных произведений, когда-либо написанных людьми. И вот тогда-де, на это основе, ИИ начнет выдавать «на-гора» литературные шедевры. Вот они-то и перевернут наше сознание.
Берусь утверждать – не перевернут.
Шедеврами эти «творения» могут быть лишь для другого ИИ, с помощью которого можно будет вскрыть всю глубину пролонгированных «автором» тенденций. Человеку для возникновения «Вау-эффекта» необходимо другое. Какое другое – этого никто не знает, поскольку это производная не от технологии написания литературных текстов, а от возможности с помощью художественного произведения получить эмоцию. Ту самую эмоцию у конкретного читателя, которую машинный «писатель» ни сформировать, ни ощутить не может.
Создавая такие продукты, как литературные произведения, ИИ будет постоянно находиться в роли догоняющего. Любое предложенное публике произведение в силу свойственной людям коллективной рефлексии, неизбежно изменитсложившуюся систему предпочтений. Предложение, созданных ИИ произведений, в стремлении потакать вкусам читателей этих продуктов, выработает «оскомину» - очень быстро возникнет потребность в чем-то ином. В каком ином? Ответ на этот вопрос предполагает решение задачи на прогнозирование развития интеллектуальных потребностей человека, и в нейуровень неопределенности выше высшего.
Какой бы умной не была машина, ее попыткирешения подобных задач будут сводиться к выявлению и пролонгации неких тенденций.
Но в общественной жизни какие-либо тенденциивообще редки, а те, которые удается выявить (см. кривую Филлипса) имеют мерцающий характер: они неопределенным образом возникают, живут неопределенно долго, а затем гаснут. Пролонгировать неуловимо исчезающееневозможно.
Можно поставить и решать задачу более высокого уровня: искать и пролонгировать тенденции изменения тенденций. И так до бесконечности. В перспективе – Божественный промысел.
А как же мы, люди решаем задачи с высшим уровнем неопределенности? Биологически решаем: получившие неправильный ответ не передают свои гены потомкам.
Мы боимся неверных решений, но вынуждены принимать и их. А машине не известно чувство страха, как и любое иное чувство. На этом основано наше преимущество перед ИИ любого уровня совершенства, как это не покажется парадоксальным.
Юваль Ной Харари, выступая с докладом на Frontiers Forum заявил, что «овладев (человеческим) языком, ИИ захватывает главный ключ, отпирающий двери всех наших учреждений, от банков до храмов…»
Это пример явной подмены, питающей алармистские настроения, сеющие панику среди обывателей.
Искусственный интеллект ничего не захватывает. А вот человек, вооруженный ИИ может применить этот инструмент для реализации своих преступных устремлений.
И это действительно опасно.
Где-то в глубинах общественного сознания существует подозрение, что в процессе постоянного, быстрого, уже не всегда контролируемого усложнения при самообучении, сознание, и связанное с ним автономное целеполагание, в ИИ возникнет произвольно.
Это не ново. Когда-то считалось, что вода вызывает болезни.
Но обсуждение этой темы идет так, как будто все не только доказано, но и уже свершилось: ИИ вроде бы бесконтрольно делает то, что именно он хочет.
У меня есть прекрасная новость – ИИ ничего не хочет. Совсем ничего.
Он инструмент. И инструментом он и останется.
Но есть грозная фигура - инициатор использования инструмента.
Поэтому бояться надо не ИИ, а тех, кто способен использовать его во вред Человечеству. Весьма соблазнительным выглядит вариант маскировки под ИИ, когда преступления, совершаемые с использованием его возможностей будет преподноситься, как результат самостоятельной деятельности очень сложной железяки, вышедшей из-под контроля.
Поэтому надо договариваться не об ограничении исследований, направленных на развитие ИИ, а о их полной открытости для международного сообщества (если оно сегодня еще есть, конечно).
