U-News » Про все » "Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Всі новини

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг

Стивен Хокинг продолжает «крестовый поход» против искусственного интеллекта (ИИ).

"Надо уже сейчас думать, как обезопасить искусственный интеллект" - Хокинг
Во время долгожданной акции «Спросите меня обо всём на Reddit» он написал, что работа над разработкой протокола безопасности ИИ должна вестись уже сейчас, а не в отдалённом будущем.

«Нашей целью должно стать не создание отвлечённого искусственного интеллекта, а создание полезного интеллекта, ? написал знаменитый физик, ? на то, чтобы выяснить, как это сделать, уйдут десятилетия, так давайте начнём исследовать этот вопрос сейчас, а не в ночь до запуска первого продвинутого ИИ».

Хокинг использует известность для поддержки движения безопасности ИИ с 2014 г., когда он совместно с другими исследователями написал редакционную статью, где предупреждает об экзистенциальной угрозе, которые развитые машины представляют для человечества.

Другие известные личности в области технологий — Илон Маск и Стив Возняк, присоединились к Хокингу. Ранее в этом все трое подписали открытое письмо с призывом запретить автономное оружие или боевых роботов.

Ожидания, что человечество скоро создаст искусственный интеллект, существуют ещё с 50-х годов и не оправдали пока себя. Однако большинство учёных в области ИИ считают, что машины, равные по интеллекту человеку, появятся уже в этом веке.

Хокинг предупреждает, что изображение искусственного интеллекта в фантастических фильмах искажает представление о реальной опасности машин. В фильмах вроде «Терминатора» изображают демонических роботов-убийц, стремящихся уничтожить человечество по мотивам, которые у настоящего искусственного интеллекта не возникли. Они также упрощают снижение потенциального риска от ИИ (например, не строить киборгов).



«Настоящая угроза от искусственного интеллекта не в том, что он злой, а в том, что он очень способный. Искусственный сверхинтеллект очень хорошо умеет выполнять свои задачи.

Если его задачи не совпадут с нашими, у нас возникнут проблемы, ? написал Хокинг, ? вы вряд ли ненавидите муравьёв, но если вы отвечаете за проект по выработке экологичной энергии, а район, где находится муравейник, нужно затопить, муравьям не повезло. Давайте, не допустим, чтобы человечество оказалось в положении этих муравьёв».

Ник Бостром, философ в сфере ИИ, фантазирует на тему сценариев о конце света, когда программа начинает работать в неверном направлении. Например, искусственному интеллекту дают задание разработать план по защите окружающей среды, а он, чтобы решить проблему экологии, решает уничтожить человечество.

Илон Маск уже выделил $10 миллионов на исследования в области безопасности ИИ, чтобы предотвратить появления разрушительного искусственного интеллекта вроде Skynet в «Терминаторе». Но Хокинг хочет, чтобы люди изменили в целом своё восприятие ИИ.

«Пожалуйста, скажите своим студентам, чтобы они думали не только над тем, как создать ИИ, но и как гарантировать его использование в полезных целях, ? ответил Хокинг преподавателю, который ведёт лекции по искусственному интеллекту, ? появление ИИ, который превосходит человека, станет либо самым лучшим, либо самым худшим событием в истории человечества. Поэтому важно, чтобы всё прошло, как надо».

Читають Коментують
Стало відомо, які продукти різко підвищують рівень цукру в крові
43 636
Проти тромбів і для серця: названий простий, але корисний квітковий чай
36 556
Туристу вдалося таємно зняти Північну Корею зсередини: відео облетіли мережу
31 498
Влучна карикатура на Путіна завірусилася в мережі
25 536
Дружина спіймала чоловіка на зраді завдяки його бажанню отримати знижку при покупках
24 458
Новий скандал на публіці: Макрони раптово осоромилися перед камерами
22 889
"Пора додому": двійник Зеленського в Італії не зміг втекти від українки
22 711
В Україні можуть змінити пенсійний вік: що відомо про чергові плани народних депутатів
20 347
Арабський "шейх" вирішив охолодитись в Україні: курйозне відео з полтавського пляжу
13 578
Три можливих причини інсульту, про які багато людей не здогадуються
13 544
Уряд готує масштабну реформу пенсійної системи: ключові зміни
12 791
"Мауглі", який жив з дикими тваринами, наразі не впізнати: фото до і після
11 309
Теща втікача Влада Ями перервала мовчання і публічно висловилася про нього
9 665
Чоловік вперше за 15 років збрив бороду: реакція доньок ошелешила всіх
0
Яких людей потрібно терміново викреслити зі свого життя, щоб стати щасливішими
0
Дочка Кошового з мокрою зачіскою попозувала на піску в обтислій сукні маминого бренду
0
43-річна Брітні Спірс стала мамою втретє й ошелешила заявою
0
Щоб не привабити лихо: 8 речей, які категорично не можна робити після заходу сонця
0
Медики пояснили, який овоч знижує шкідливий вплив цигарок на організм людини
0
Лікарка назвала небезпечні для здоров’я ранкові звички
0
Син Роднянського після розриву з відомою співачкою закрутив новий роман: хто його обраниця
0
Підвищення готовності: у Польщі оголосили масштабний призов на медогляд
0
Названо 3 категорії людей, яким варто якнайшвидше відмовитися від сметани
0
У двох знаків Зодіаку почнеться "біла смуга" вже у липні: кому пощастить найбільше
0
Покладіть це поряд з часником – і урожай ніколи не зіпсується
0
Що станеться з організмом, якщо їсти хліб щодня: фахівці дали пояснення
0
Медики назвали види раку, які частіше уражають жінок

Медики назвали види раку, які вражають жінок різного віку. ...

Починають шукати це на стороні: п'ять речей, яких не вистачає чоловікам у шлюбі

Кожній парі здається, що у них точно все буде добре. Але ...

Лікарі застерігають: на тілі є точки, яких краще не торкатися

Погодьтеся, є щось майже медитативне у спробі «навести лад» ...