U-News » Про все » "Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Всі новини

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг

Стивен Хокинг продолжает «крестовый поход» против искусственного интеллекта (ИИ).

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Во время долгожданной акции «Спросите меня обо всём на Reddit» он написал, что работа над разработкой протокола безопасности ИИ должна вестись уже сейчас, а не в отдалённом будущем.

«Нашей целью должно стать не создание отвлечённого искусственного интеллекта, а создание полезного интеллекта, ? написал знаменитый физик, ? на то, чтобы выяснить, как это сделать, уйдут десятилетия, так давайте начнём исследовать этот вопрос сейчас, а не в ночь до запуска первого продвинутого ИИ».

Хокинг использует известность для поддержки движения безопасности ИИ с 2014 г., когда он совместно с другими исследователями написал редакционную статью, где предупреждает об экзистенциальной угрозе, которые развитые машины представляют для человечества.

Другие известные личности в области технологий — Илон Маск и Стив Возняк, присоединились к Хокингу. Ранее в этом все трое подписали открытое письмо с призывом запретить автономное оружие или боевых роботов.

Ожидания, что человечество скоро создаст искусственный интеллект, существуют ещё с 50-х годов и не оправдали пока себя. Однако большинство учёных в области ИИ считают, что машины, равные по интеллекту человеку, появятся уже в этом веке.

Хокинг предупреждает, что изображение искусственного интеллекта в фантастических фильмах искажает представление о реальной опасности машин. В фильмах вроде «Терминатора» изображают демонических роботов-убийц, стремящихся уничтожить человечество по мотивам, которые у настоящего искусственного интеллекта не возникли. Они также упрощают снижение потенциального риска от ИИ (например, не строить киборгов).



«Настоящая угроза от искусственного интеллекта не в том, что он злой, а в том, что он очень способный. Искусственный сверхинтеллект очень хорошо умеет выполнять свои задачи.

Если его задачи не совпадут с нашими, у нас возникнут проблемы, ? написал Хокинг, ? вы вряд ли ненавидите муравьёв, но если вы отвечаете за проект по выработке экологичной энергии, а район, где находится муравейник, нужно затопить, муравьям не повезло. Давайте, не допустим, чтобы человечество оказалось в положении этих муравьёв».

Ник Бостром, философ в сфере ИИ, фантазирует на тему сценариев о конце света, когда программа начинает работать в неверном направлении. Например, искусственному интеллекту дают задание разработать план по защите окружающей среды, а он, чтобы решить проблему экологии, решает уничтожить человечество.

Илон Маск уже выделил $10 миллионов на исследования в области безопасности ИИ, чтобы предотвратить появления разрушительного искусственного интеллекта вроде Skynet в «Терминаторе». Но Хокинг хочет, чтобы люди изменили в целом своё восприятие ИИ.

«Пожалуйста, скажите своим студентам, чтобы они думали не только над тем, как создать ИИ, но и как гарантировать его использование в полезных целях, ? ответил Хокинг преподавателю, который ведёт лекции по искусственному интеллекту, ? появление ИИ, который превосходит человека, станет либо самым лучшим, либо самым худшим событием в истории человечества. Поэтому важно, чтобы всё прошло, как надо».

Читають Коментують
Проти тромбів і для серця: названий простий, але корисний квітковий чай
39 528
І сміх, і гріх: чоловік показав історію запитів дружини у браузері перед відпусткою
25 615
Порошенко з’явився на публіці в оточенні 40 охоронців
23 775
Трамп опублікував дивний пост: що б це означало
22 556
Виступ Путіна в Пекіні приспав Лаврова: курйозний момент потрапив на відео
20 691
Учитель Циганков підірвав мережу новим танцем на шкільній лінійці: перегляди зростають із кожною хвилиною
19 025
На приховану камеру зняли курйоз під час виступу хору “Гомін”
17 005
Про швидкий серцевий напад попередять чотири малопомітні симптоми
16 082
"Понабирали за оголошенням". Епічна погоня в Одесі перетворилась на курйоз
15 997
Два симптоми на обличчі можуть розповісти про ризик розвитку гіпертонії
12 988
Названо найдобріші знаки зодіаку: вони нікому не завдадуть зла
11 629
Українець знайшов у Карпатах 110-річну хату, де жили його предки: що було всередині
11 105
Чоловік купив піджак у секонд-хенді і розбагатів
10 665
Спальня із секретом: гостьова кімната в королівському стилі здивувала соцмережі
0
Відомий український гурт розпався: причиною став конфлікт солістки та продюсера
0
Мільйонери обов’язково розповідають про ці 17 істин своїм дітям: як не витратити життя марно
0
Залишите без цвіту наступного року: які квіти ніколи не варто обрізати у вересні
0
Медики назвали кращі ліки для зниження температури
0
Як вивести запах тютюну з одягу просто і дешево
0
Катерина Кузнєцова вперше відповіла на чутки про роман з Цимбалюком
0
Для довголіття: від яких продуктів і напоїв варто відмовитися
0
Чому деякі кімнатні рослини протипоказано тримати в будинку з маленькими дітьми
0
Модель Тіна Кунакі показала фото в бікіні з відпочинку і нарвалася на хейт
0
Три знаки Зодіаку нарешті покинуть чорну смугу і знайдуть справжнє щастя
0
Помилки на пам'ятнику Григорія Чапкіса: який вигляд має могила хореографа після змін
0
Вся справа в кишечнику: вчені назвали несподіваний фактор, який заважає схуднути
0
Правильний правопис українською: як учням навчитися з готових рішень

Автори підручників іноді люблять викладати свій матеріал ...

«Лід у ліжку»: психологи пояснили, чому жінки приховують свої фантазії навіть від коханих

Сексуальні фантазії – це уявні образи, що збуджують, але не ...

Що головне в сімейному житті

Сімейне життя – це не лише спільне проживання під одним ...