U-News » Hi-Tech » Тільки для білих? Український студент виявив упередженість алгоритмів Twitter і отримав за це $ 3500
Всі новини

Тільки для білих? Український студент виявив упередженість алгоритмів Twitter і отримав за це $ 3500

Уродженець України Богдан Кулинич, аспірант в швейцарському університеті EPFL, довів упередженість алгоритмів Twitter для редагування фото.

З’ясувалося, що алгоритм обрізки зображень Twitter надає перевагу молодшим, стрункішим обличчям зі світлішою шкірою.

Цей висновок, хоча і негативно впливає на компанію, яка раніше приносила вибачення користувачам після повідомлень про упередженість, знаменує собою успішне завершення першої в історії «нагороди за алгоритмічні помилки» в Twitter.

Компанія заплатила $ 3500 Богдану Кулиничу, аспіранту швейцарського університету EFPL. Він продемонстрував упередженість в алгоритмі, який використовується для фокусування превью зображень на найбільш цікавих частинах зображень, в рамках конкурсу на DEF CON security в Лас-Вегасі.

Кулинич довів упередженість, спочатку штучно згенерувавши обличчя з різними характеристиками, а потім пропустивши їх за допомогою алгоритму обрізки Twitter, щоб побачити, на чому орієнтоване програмне забезпечення.

Оскільки обличчя були самі по собі штучними, можна було створювати обличчя, які були майже ідентичними, але в різних точках спектру тону шкіри, ширини, гендеру або віку — і таким чином продемонстрували, що алгоритм фокусувався на більш молодих, струнких і світлих обличчях.

«Коли ми думаємо про упередженість в наших моделях, йдеться не тільки про академічні або експериментальні … але і про те, як це також працює з нашим мисленням в суспільстві», — сказав на конференції Румман Чоудхурі, керівник групи з етики штучного інтелекту Twitter.

Twitter піддався критиці в 2020 році через свій алгоритм обрізки зображень після того, як користувачі помітили, що він, схоже, регулярно фокусується на білих обличчях — і навіть на білих собаках в порівнянні з чорними.

Компанія спочатку вибачилася, сказавши: «Наша команда провела тест на упередженість перед відправкою моделі і не знайшла доказів расової або гендерної упередженості в нашому тестуванні. Але з цих прикладів ясно, що нам потрібно провести більше аналізу». Однак в більш пізньому дослідженні власні дослідники Twitter виявили дуже помірну упередженість на користь білих і жіночих облич.

Суперечка спонукала компанію оголосити нагороду за використання алгоритмічного захисту від шкідливих помилок, яка обіцяла тисячі доларів у вигляді призів дослідникам, які зможуть продемонструвати шкідливі результати роботи алгоритму обрізки зображень компанії.

Кулинич, лауреат премії, сказав, що у нього змішані почуття з приводу конкурсу.

«Алгоритмічний збиток — це не тільки помилки. Важливо відзначити, що багато шкідливих технологій шкідливі не через нещасні випадки або ненавмисні помилки, а через свою конструкцію. Це відбувається за рахунок максимізації залученості і, в цілому, отримання прибутку за рахунок перенесення витрат на інших», — зазначив молодий вчений.

Раніше засновник Twitter Джек Дорсі написав, що біткоін об'єднає країну (ймовірно, США) і весь світ. Дорсі заявив це після розгляду поправки про криптовалюти в Сенаті США.

Твіт був опублікований незадовго після того, як в Сенаті США заблокували поправку, яка повинна була посилити вплив уряду в регулюванні криптовалют.

Незважаючи на те, що Дорсі не уточнив, про яку країну йдеться, і як саме біткоін врятує світ, раніше він багато говорив про цю поправку і публічно визнавав величезний інтерес до криптовалют.

При цьому в жовтні 2020 го керівництво стартапу Square, який також належить Джеку Дорсі, придбало 4709 біткоіни, а в лютому 2021-го — ще 3318 біткоіни.

НВ


Читають Коментують
Стало відомо, які продукти різко підвищують рівень цукру в крові
44 963
Українська співачка: мій чоловік незаконно покинув Україну, але йому не соромно
25 760
Відома українська співачка зменшила груди й показалася після операції: "Було мрією з 13 років"
21 304
Названо найрозумніші знаки зодіаку: для них немає непосильних завдань
20 717
Батько хотів включити "білий шум", аби дитина заснула, але щось пішло не так
18 215
Скільки потрібно грошей для комфортного життя в Україні: експерт назвав цифри
15 981
Менше цієї суми пенсіонери не можуть отримувати: рішення Конституційного Суду
15 604
Чотири симптоми, які вказують на дуже високий артеріальний тиск
13 106
Село-символ: знайдено населений пункт, назва якого влучно характеризує сучасне життя в Україні
13 006
"Я в Польщі": Хто той блогер, чиє відео з перетину кордону стало вірусним у TikTok
12 958
Коли треба поєднати пляж і роботу: відео з Одеси розсмішило соцмережі
12 522
Мешканцям не дуже зручно говорити, звідки вони: під Харковом є село-запитання
12 398
Лікар назвав чотири продукти, які розчиняють тромби
12 044
Особливий спосіб: Наталія Могилевська здивувала методом схуднення на 25 кіло
0
Коридор затемнень: які три знаки зодіаку різко змінять свою долю
0
Як позбавити пральну машину від плісняви і запаху: простий спосіб
0
Відмова від одного продукта може знизити ризик серцево-судинних захворювань: результати дослідження
0
Чому дитина постійно хворіє: розбираємося без паніки з лікарем
0
Коли пил осідає всюди: названо три кімнатні рослини, які без зусиль очистять ваш дім
0
Лікар залишив пацієнта на операційному столі, щоб зайнятися сексом з медсестрою
0
Чи святкувати 40 років: думка астрологів, священиків та езотериків
0
Валерій Харчишин заінтригував заявою про стосунки з Яніною Соколовою
0
Чому нас іноді охоплює ностальгія і як вона впливає на наше життя
0
Могилевська зізналася, коли планує показати обличчя донечок і розповісти всім, що вона їхня мама
0
Джулія Робертс знялася для глянцю і розповіла про виховання дітей
0
Лікар пояснив, чому потрібно відмовитися від чищення вух
0
Тантричний секс: як почати практикувати і чи він допоможе стосункам

Нереальне задоволення тривалістю кілька годин і глибший ...

Дисоргазмія: чому після сексу можуть зʼявлятися спазми

Більшість жінок хоча б раз у житті відчували судоми чи ...

Дружба й секс: чи можна їх поєднати без неприємних наслідків

Дружба та сексуальність — це два потужні виміри людських ...