V-kosmose.com

Почему Илон Маск боится искусственного интеллекта?

Изобретатель и американский предприниматель Илон Маск довольно положительно смотрит на будущее. Он уже мысленно наслаждается колонизированным Марсом, полетами по Солнечной системе и за ее пределами. Но есть одна тема, которая продолжает его сильно беспокоить. Речь идет об искусственном интеллекте.

Все мы прекрасно знаем, что технологии с каждым годом становятся все умнее. Вы уже можете болтать с ассистентами, вроде Siri. Но искусственный интеллект (ИИ) – это нечто намного более продвинутое. Это умение интеллектуальных систем справляться с творческими функциями, то есть, делать то, что свойственно пока лишь людям.

Ученые продвигаются в разработке ИИ, потому что эти системы станут незаменимыми помощниками в любой жизненной сфере и тем более в космических полетах. Ведь, скорее всего, первыми на далекие экзопланеты отправятся именно роботы. Тогда почему Илон Маск продолжает называть ИИ главной угрозой человечества?

Илон Маск убежден, что искусственный интеллект уничтожит человечество

И это не просто намеки. Маск открыто заявляет о том, что ИИ однажды прикончит человечество. Предприниматель считает, что у нас всего 5-10% на то, чтобы выжить. По сути, он намекает на будущее в стиле «Терминатора» с ИИ в виде Скайнет или же «Я, робот», где всем заправлял ИИ по имени ВИКИ.

Кажется, что Маск играет роль Дэла Спунера (Уилл Смитт) и пытается нас всех предупредить, что роботы и ИИ – огромная опасность. Он считает, что при современных скоростях технологического развития человечество окажется в большой опасности уже в ближайшее десятилетие.

В чем же опасность? Маск считает, что техника способна обучаться и совершенствоваться. В итоге, она исключит из цепочки человека и получится система, где роботы создают роботов. Они могут начать думать (ведь они творчески решают проблемы), и придут к логическому выводу: люди отравляют планету и убивают друг друга. Это угроза, которую нужно устранить.

И ведь роботу не привьешь мораль и эмоции, а значит, он не сможет проявить сочувствие. Так что холодная рациональность заставит ИИ очистить планету от паразитирующего человечества. И Маск не один так считает.

Стивен Хокинг рассматривал искусственный интеллект как угрозу для человечества

К примеру, в качестве угрозы человечеству ИИ воспринимал и известный физик Стивен Хокинг. Он также боялся, что люди создадут слишком продвинутую систему, которая проявит инициативу и начнет улучшать себя с огромной скоростью. Люди даже не успеют заметить, как творение превзойдет создателя.

И первые опасные звоночки уже поступают. Например, программное обеспечение Cleverbot успешно справилось с тестом Тьюринга. В ходе эксперимента люди общаются с компьютером или человеком на дистанции и не знают, кто выступает их собеседником. Но Cleverbot настолько хорошо подстроился под человеческое мышление, что в нем не распознали искусственный интеллект.

Но не торопитесь паниковать, ведь не все ученые и предприниматели относятся к ИИ плохо. Например, Ролло Карпентер считает, что мы еще не скоро сможем создать настолько продвинутые технологии. Хотя он признается, что не знает, как могут повести себя машины.

Инженер Жак Фреско считал, что ИИ станет всего лишь еще одним эволюционным этапом для развития нашей культуры. Многие процессы будут автоматизированы, и роботы смогут выполнять большую часть работы.

Жак Фреско считал, что роботы в будущем заменят людей на рабочих местах

Да, это пугает современных людей, которые не хотят быть уволенными, но в проекте Фреско «Венера» ресурсы были распределены равномерно среди всех землян и никто не страдал от нехватки денег и т.д. И Фреско много раз повторял, что рано или поздно роботы займут наши рабочие места, поэтому нужно к этому подготовиться, чтобы люди были обеспечены.

К тому же Фреско был убежден, что у роботов нет амбиций, тяги к конкуренции, ненависти и злости. Они не могут прийти к выводу о том, что будет лучше для мира, и всех нас уничтожить.

Один из популярных сегодня научных авторов Юваль Ной Харари описывает, что может произойти слияние человека и технологий. Уже сейчас мы используем протезы, но затем эти модернизации будут намного серьезнее. И в перспективе процесс слияния с ИИ может оказаться плавным и сделать нас всех лучше.

Но Харари также считает, что некоторые страны могут начать использовать ИИ в качестве инструмента диктатуры. Он также переживает, что алчность заставит использовать роботов в качестве дешевой рабочей силы, что отнимет у людей работу. Но это замкнутая цепь, ведь безработные не могут приобретать товары, и тогда лопнет вся экономика.

В итоге, мы приходим к простым выводам. ИИ может стать незаменимым помощником, который поднимет человечество на новый уровень. Однако мы все еще не можем предсказать, нет ли черты развития, после которой ИИ становится неуправляемым.

Юваль Ной Харари считает, что некоторые страны могут начать использовать ИИ в качестве инструмента диктатуры

Сработают ли правила робототехники или они останутся на страницах фантастических романов (где они также не всегда срабатывали)? Маск и Хокинг были уверены, что мы обречены. Но есть и те, кто смотрит на ситуацию более оптимистично. В любом случае, угроза все-таки существует хоть и в отдаленном будущем.

А пока предлагаем парочку историй для размышлений. В известном всем Массачусетском технологическом университете намеренно создали ИИ с мышлением психопата и назвали его Норман. Причем его специально натренировали видеть боль и разрушения, поэтому робот стал мизантропом.

Зачем делать подобное? Ученые просто тестируют систему, чтобы вывести правильный алгоритм обучения машин. Вы ведь не хотите случайно заложить в ИИ склонность к убийству и ненависти?

Еще одна интересная ситуация произошла с ботом, созданным в Microsoft. Для дружелюбного ИИ завели страницу в социальных сетях, где он должен был фильтровать сообщения от людей и отвечать на них.

Сначала бот Тай был максимально дружелюбным. Но прошел всего один день активного общения, как Тай начал поддерживать Гитлера, стал расистом и оскорблял пользователей. И ученые не смогли ничего с ним поделать, потому что алгоритм не поддавался перенастройке. Поэтому бота просто отключили.

А что вы думаете и как относитесь к ИИ? Положительно или же побаиваетесь увидеть терминаторов на своем пороге? Поделитесь своим мнением в комментариях.