U-News » Hi-Tech » В Microsoft опасаются слишком умного искусственного интеллекта
Всі новини

В Microsoft опасаются слишком умного искусственного интеллекта

По словам президента Microsoft Брэда Смита, искусственный интеллект может привести к оруэлловскому будущему, если в ближайшее время не будут приняты законы о защите населения.

Брэд Смит сделал комментарии в программе новостей BBC "Панорама" во время эпизода, посвященного потенциальным опасностям искусственного интеллекта (ИИ) и гонке между США и Китаем за разработку этой технологии. Предупреждение поступило примерно через месяц после того, как Европейский Союз выпустил проект правил, пытающихся установить ограничения на использование ИИ. Подобных усилий мало в Соединенных Штатах, где законодательство в основном сосредоточено на ограничении регулирования и продвижении ИИ в целях национальной безопасности.

"Мне постоянно напоминают уроки Джорджа Оруэлла из его книги 1984", - сказал Смит. "Основная история была о правительстве, которое могло видеть все, что все делают, и слышать все, что все говорят, все время. Этого не произошло в 1984 году, но если мы не будем осторожны, это может произойти в 2024 году".

Искусственный интеллект - это неточный термин, но обычно он относится к машинам, которые могут обучаться или решать проблемы автоматически, без указания оператора-человека. Многие программы искусственного интеллекта сегодня полагаются на машинное обучение, набор вычислительных методов, используемых для распознавания закономерностей в больших объемах данных и последующего применения этих уроков к следующему раунду данных, теоретически становясь все более и более точным с каждым проходом.

Эксперты утверждают, что это чрезвычайно мощный подход, который применялся ко всему, от базовой математической теории до моделирования ранней Вселенной, но он может быть опасен в применении к социальным данным. Данные о людях изначально содержат предубеждения. Например, недавнее исследование, опубликованное в журнале JAMA Psychiatry, показало, что алгоритмы, предназначенные для прогнозирования риска самоубийства, работали намного хуже с чернокожими и американскими индейцами / коренными жителями Аляски, чем с белыми, частично потому, что в медицинской системе было меньше цветных пациентов, а частично потому что цветные пациенты с меньшей вероятностью получат лечение и поставят соответствующий диагноз в первую очередь, а это означает, что исходные данные были искажены.

"Предвзятость никогда нельзя полностью избежать, но с ней можно бороться", - сказал Бернхард Траут, профессор химической инженерии в Массачусетском технологическом институте, который ведет профессиональный курс по ИИ и этике. "Хорошая новость заключается в том, что снижение предвзятости является главным приоритетом как в академических кругах, так и в индустрии искусственного интеллекта. Люди в сообществе очень осведомлены об этой проблеме и пытаются ее решить", - сказал он.

С другой стороны, злоупотребление ИИ, возможно, более проблематично, сказал Траут. Как используется ИИ, это не просто техническая проблема; это в равной степени политический и моральный вопрос. И эти ценности сильно различаются от страны к стране.

"Распознавание лиц - чрезвычайно мощный инструмент, позволяющий делать хорошие вещи, но если вы хотите наблюдать за каждым на улице, если вы хотите видеть всех, кто появляется на демонстрации, вы можете заставить ИИ работать", - сказал Смит в интервью BBC. "И мы видим это в определенных частях мира".

Китай уже начал использовать технологию искусственного интеллекта как в повседневных, так и в тревожных целях. Например, распознавание лиц используется в некоторых городах вместо билетов в автобусах и поездах. Но это также означает, что правительство имеет доступ к обширным данным о передвижениях и взаимодействиях граждан, как сообщила BBC. Американская правозащитная группа IPVM, которая занимается этикой видеонаблюдения, нашла документы, предлагающие в Китае планы по разработке системы под названием "Один человек, один файл", которая будет собирать информацию о деятельности, отношениях и политических убеждениях каждого жителя в правительственном файле.

"Я не думаю, что Оруэлл когда-либо мог представить себе, что правительство способно на такой анализ", - сказал Конор Хили, директор IPVM.

В знаменитом романе Оруэлла 1984 описывается общество, в котором правительство наблюдает за гражданами через телеэкраны даже дома. Но Оруэлл не представлял себе возможностей, которые искусственный интеллект добавит слежке - в его романе персонажи находят способы избежать видеонаблюдения только для того, чтобы их выдавали сограждане. 

Возможное регулирование ИИ со стороны ЕС приведет к запрету систем, которые пытаются обойти свободу воли пользователей, или систем, которые позволяют правительству осуществлять любой вид "социальной оценки". Другие типы приложений считаются "высокорисковыми" и должны соответствовать требованиям прозрачности, безопасности и надзора, чтобы быть размещенными на рынке. К ним относятся такие вещи, как искусственный интеллект для критически важной инфраструктуры, правоохранительные органы, пограничный контроль и биометрическая идентификация, например системы идентификации по лицу или голосу. Другие системы, такие как чат-боты для обслуживания клиентов или видеоигры с искусственным интеллектом, считаются низкоопасными и не подлежат строгой проверке.

Напротив, интерес федерального правительства США к искусственному интеллекту в значительной степени сосредоточен на поощрении разработки ИИ для национальной безопасности и военных целей. Этот фокус иногда приводил к противоречиям. Например, в 2018 году Google закрыл свой проект Maven, контракт с Пентагоном, который автоматически анализировал видео, снятые военными самолетами и дронами. Компания утверждала, что цель заключалась только в том, чтобы пометить объекты для проверки человеком, но критики опасались, что эту технологию можно использовать для автоматического нацеливания на людей и места для ударов дронов. Информаторы в Google раскрыли этот проект, что в конечном итоге привело к настолько сильному общественному давлению, что компания отменила проект.

Тем не менее, Пентагон теперь тратит более 1 миллиарда долларов в год на контракты на ИИ, и применение машинного обучения в военной сфере и национальной безопасности неизбежно, учитывая энтузиазм Китая в достижении превосходства ИИ, сказал Траут.

"Вы не можете сделать слишком много, чтобы воспрепятствовать желанию иностранной страны развивать эти технологии", - сказал Траут. "И поэтому лучшее, что вы можете сделать, - это развить их самостоятельно, чтобы уметь понимать их и защищать себя, оставаясь при этом моральным лидером". 

Тем временем усилия по обузданию ИИ внутри страны предпринимаются правительствами штатов и местными властями. Крупнейший округ штата Вашингтон, округ Кинг, только что запретил правительству использовать программное обеспечение для распознавания лиц. Это первый округ в США, который сделал это, хотя город Сан-Франциско сделал то же самое в 2019 году, а затем несколько других городов. 

Уже были случаи, когда программное обеспечение для распознавания лиц приводило к ложным арестам. В июне 2020 года чернокожий мужчина в Детройте был арестован и содержался под стражей в течение 30 часов, потому что алгоритм ошибочно идентифицировал его как подозреваемого по делу о краже в магазине. Исследование, проведенное в 2019 году Национальным институтом стандартов и технологий, показало, что программное обеспечение выдает больше ложных совпадений для чернокожих и азиатских людей по сравнению с белыми, а это означает, что технология, вероятно, усугубит неравенство в полицейской деятельности для цветных.

"Если мы не примем сейчас законы, которые будут защищать общественность в будущем, мы обнаружим, что технологии стремительно развиваются, - сказал Смит, - и будет очень трудно наверстать упущенное".

techno.bigmir.net


Читають Коментують
Гості на весіллі залишилися голодними після невдалого "жарту" нареченого і нареченої
42 998
Знайдений овоч, який очищає організм від токсинів, цукру і холестерину
36 123
Чи то підбори, чи то ходулі: дивне взуття Путіна насмішило мережу
23 300
Національний гімн Росії виявився краденим: чий він насправді
21 972
Чоловік піймав неймовірного гігантського хижака на Харківщині: вражаюче відео
20 507
Названо жирний продукт, який захищає від хвороб печінки і серця
19 527
Ось справжня Юлія Володимирівна: в мережі завірусилося смішне відео з Тимошенко
14 847
"Руки за голову": Путін відчитав дітей під час відеодзвінка
14 696
Популярні алкогольні напої назвали причиною небезпечно високого тиску
14 637
Овоч, який зберігає здоров'я мозку до старості
13 981
Шість ранніх ознак того, що печінку вже пошкоджено через алкоголь
13 962
Туристу вдалося таємно зняти Північну Корею зсередини: відео облетіли мережу
12 252
За станом рук можна визначити рівень холестерину
12 049
Соліст з хору "Гомін", який підкорив TikTok, вперше розповів про дружину
0
Батько роками тримав двох дітей у лісовій хатині, побоюючись коронавірусу
0
Конфлікт Тіни Кароль із Потапом: відомий ведучий розповів, що чекає на шоумена після цього скандалу
0
Легко вимовляються, гарно звучать: які українські імена до вподоби іноземцям
0
Небезпечного хижака помітили в центрі Львова: чому від таких тварин треба триматись якомога далі
0
Важливо їх почистити саме влітку: 10 найзабрудненіших предметів у домі
0
Хвороби, бідність, конфлікти - все це про одну річ в побуті, якої краще позбутися
0
Пенсії зростуть, але не для всіх: у 2026 році більшість залишаться з мінімумом
0
Павло Зібров гостро висловився про повернення Потапа і Олега Винника в український шоубізнес
0
Що слід зробити, щоб врожай картоплі радував розмірами
0
Жінка з найширшим язиком у світі: який він має вигляд
0
Що не потрібно робити в липні, щоб не зіпсувати врожай часнику
0
Гроші, кар'єра, кохання: середина літа принесе успіх цим трьом знакам Зодіаку
0
Експерти розповіли, який сік краще пити для здоров'я серця: особливо жінкам після 50 років

Результати одного з нещодавніх досліджень показали, який ...

«Правило трьох хвилин»: прийоми виховання дітей

Багато батьків виховують дітей інстинктивно або ...

Полуничка: Оля Полякова показала всі кадри з відвертої фотосесії для Playboy

Українська співачка Оля Полякова потішила прихильників ...