U-News » Про все » "Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Всі новини

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг

Стивен Хокинг продолжает «крестовый поход» против искусственного интеллекта (ИИ).

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Во время долгожданной акции «Спросите меня обо всём на Reddit» он написал, что работа над разработкой протокола безопасности ИИ должна вестись уже сейчас, а не в отдалённом будущем.

«Нашей целью должно стать не создание отвлечённого искусственного интеллекта, а создание полезного интеллекта, ? написал знаменитый физик, ? на то, чтобы выяснить, как это сделать, уйдут десятилетия, так давайте начнём исследовать этот вопрос сейчас, а не в ночь до запуска первого продвинутого ИИ».

Хокинг использует известность для поддержки движения безопасности ИИ с 2014 г., когда он совместно с другими исследователями написал редакционную статью, где предупреждает об экзистенциальной угрозе, которые развитые машины представляют для человечества.

Другие известные личности в области технологий — Илон Маск и Стив Возняк, присоединились к Хокингу. Ранее в этом все трое подписали открытое письмо с призывом запретить автономное оружие или боевых роботов.

Ожидания, что человечество скоро создаст искусственный интеллект, существуют ещё с 50-х годов и не оправдали пока себя. Однако большинство учёных в области ИИ считают, что машины, равные по интеллекту человеку, появятся уже в этом веке.

Хокинг предупреждает, что изображение искусственного интеллекта в фантастических фильмах искажает представление о реальной опасности машин. В фильмах вроде «Терминатора» изображают демонических роботов-убийц, стремящихся уничтожить человечество по мотивам, которые у настоящего искусственного интеллекта не возникли. Они также упрощают снижение потенциального риска от ИИ (например, не строить киборгов).



«Настоящая угроза от искусственного интеллекта не в том, что он злой, а в том, что он очень способный. Искусственный сверхинтеллект очень хорошо умеет выполнять свои задачи.

Если его задачи не совпадут с нашими, у нас возникнут проблемы, ? написал Хокинг, ? вы вряд ли ненавидите муравьёв, но если вы отвечаете за проект по выработке экологичной энергии, а район, где находится муравейник, нужно затопить, муравьям не повезло. Давайте, не допустим, чтобы человечество оказалось в положении этих муравьёв».

Ник Бостром, философ в сфере ИИ, фантазирует на тему сценариев о конце света, когда программа начинает работать в неверном направлении. Например, искусственному интеллекту дают задание разработать план по защите окружающей среды, а он, чтобы решить проблему экологии, решает уничтожить человечество.

Илон Маск уже выделил $10 миллионов на исследования в области безопасности ИИ, чтобы предотвратить появления разрушительного искусственного интеллекта вроде Skynet в «Терминаторе». Но Хокинг хочет, чтобы люди изменили в целом своё восприятие ИИ.

«Пожалуйста, скажите своим студентам, чтобы они думали не только над тем, как создать ИИ, но и как гарантировать его использование в полезных целях, ? ответил Хокинг преподавателю, который ведёт лекции по искусственному интеллекту, ? появление ИИ, который превосходит человека, станет либо самым лучшим, либо самым худшим событием в истории человечества. Поэтому важно, чтобы всё прошло, как надо».

Читають Коментують
Стало відомо, які продукти різко підвищують рівень цукру в крові
45 053
Українська співачка: мій чоловік незаконно покинув Україну, але йому не соромно
25 890
Відома українська співачка зменшила груди й показалася після операції: "Було мрією з 13 років"
21 436
Названо найрозумніші знаки зодіаку: для них немає непосильних завдань
20 762
Батько хотів включити "білий шум", аби дитина заснула, але щось пішло не так
18 271
Скільки потрібно грошей для комфортного життя в Україні: експерт назвав цифри
16 116
Менше цієї суми пенсіонери не можуть отримувати: рішення Конституційного Суду
15 714
Чотири симптоми, які вказують на дуже високий артеріальний тиск
13 148
Село-символ: знайдено населений пункт, назва якого влучно характеризує сучасне життя в Україні
13 130
"Я в Польщі": Хто той блогер, чиє відео з перетину кордону стало вірусним у TikTok
13 040
Коли треба поєднати пляж і роботу: відео з Одеси розсмішило соцмережі
12 578
Мешканцям не дуже зручно говорити, звідки вони: під Харковом є село-запитання
12 465
Лікар назвав чотири продукти, які розчиняють тромби
12 092
Уряд хоче стягувати податки з доходів українців від оренди квартир та продажу речей
0
Гастроентеролог назвав корисний напій з 4 інгредієнтів, який п'є щоранку
0
Не позичайте гроші до кінця вересня - поради двом знакам Зодіаку
0
Син Василя Зінкевича зізнався, як долучився до лав ЗСУ і чому приховував це від батька
0
Особливий спосіб: Наталія Могилевська здивувала методом схуднення на 25 кіло
0
Коридор затемнень: які три знаки зодіаку різко змінять свою долю
0
Як позбавити пральну машину від плісняви і запаху: простий спосіб
0
Відмова від одного продукта може знизити ризик серцево-судинних захворювань: результати дослідження
0
Чому дитина постійно хворіє: розбираємося без паніки з лікарем
0
Коли пил осідає всюди: названо три кімнатні рослини, які без зусиль очистять ваш дім
0
Лікар залишив пацієнта на операційному столі, щоб зайнятися сексом з медсестрою
0
Чи святкувати 40 років: думка астрологів, священиків та езотериків
0
Валерій Харчишин заінтригував заявою про стосунки з Яніною Соколовою
0
Тантричний секс: як почати практикувати і чи він допоможе стосункам

Нереальне задоволення тривалістю кілька годин і глибший ...

Дисоргазмія: чому після сексу можуть зʼявлятися спазми

Більшість жінок хоча б раз у житті відчували судоми чи ...

Дружба й секс: чи можна їх поєднати без неприємних наслідків

Дружба та сексуальність — це два потужні виміри людських ...