U-News » Hi-Tech » Тільки для білих? Український студент виявив упередженість алгоритмів Twitter і отримав за це $ 3500
Всі новини

Тільки для білих? Український студент виявив упередженість алгоритмів Twitter і отримав за це $ 3500

Уродженець України Богдан Кулинич, аспірант в швейцарському університеті EPFL, довів упередженість алгоритмів Twitter для редагування фото.

З’ясувалося, що алгоритм обрізки зображень Twitter надає перевагу молодшим, стрункішим обличчям зі світлішою шкірою.

Цей висновок, хоча і негативно впливає на компанію, яка раніше приносила вибачення користувачам після повідомлень про упередженість, знаменує собою успішне завершення першої в історії «нагороди за алгоритмічні помилки» в Twitter.

Компанія заплатила $ 3500 Богдану Кулиничу, аспіранту швейцарського університету EFPL. Він продемонстрував упередженість в алгоритмі, який використовується для фокусування превью зображень на найбільш цікавих частинах зображень, в рамках конкурсу на DEF CON security в Лас-Вегасі.

Кулинич довів упередженість, спочатку штучно згенерувавши обличчя з різними характеристиками, а потім пропустивши їх за допомогою алгоритму обрізки Twitter, щоб побачити, на чому орієнтоване програмне забезпечення.

Оскільки обличчя були самі по собі штучними, можна було створювати обличчя, які були майже ідентичними, але в різних точках спектру тону шкіри, ширини, гендеру або віку — і таким чином продемонстрували, що алгоритм фокусувався на більш молодих, струнких і світлих обличчях.

«Коли ми думаємо про упередженість в наших моделях, йдеться не тільки про академічні або експериментальні … але і про те, як це також працює з нашим мисленням в суспільстві», — сказав на конференції Румман Чоудхурі, керівник групи з етики штучного інтелекту Twitter.

Twitter піддався критиці в 2020 році через свій алгоритм обрізки зображень після того, як користувачі помітили, що він, схоже, регулярно фокусується на білих обличчях — і навіть на білих собаках в порівнянні з чорними.

Компанія спочатку вибачилася, сказавши: «Наша команда провела тест на упередженість перед відправкою моделі і не знайшла доказів расової або гендерної упередженості в нашому тестуванні. Але з цих прикладів ясно, що нам потрібно провести більше аналізу». Однак в більш пізньому дослідженні власні дослідники Twitter виявили дуже помірну упередженість на користь білих і жіночих облич.

Суперечка спонукала компанію оголосити нагороду за використання алгоритмічного захисту від шкідливих помилок, яка обіцяла тисячі доларів у вигляді призів дослідникам, які зможуть продемонструвати шкідливі результати роботи алгоритму обрізки зображень компанії.

Кулинич, лауреат премії, сказав, що у нього змішані почуття з приводу конкурсу.

«Алгоритмічний збиток — це не тільки помилки. Важливо відзначити, що багато шкідливих технологій шкідливі не через нещасні випадки або ненавмисні помилки, а через свою конструкцію. Це відбувається за рахунок максимізації залученості і, в цілому, отримання прибутку за рахунок перенесення витрат на інших», — зазначив молодий вчений.

Раніше засновник Twitter Джек Дорсі написав, що біткоін об'єднає країну (ймовірно, США) і весь світ. Дорсі заявив це після розгляду поправки про криптовалюти в Сенаті США.

Твіт був опублікований незадовго після того, як в Сенаті США заблокували поправку, яка повинна була посилити вплив уряду в регулюванні криптовалют.

Незважаючи на те, що Дорсі не уточнив, про яку країну йдеться, і як саме біткоін врятує світ, раніше він багато говорив про цю поправку і публічно визнавав величезний інтерес до криптовалют.

При цьому в жовтні 2020 го керівництво стартапу Square, який також належить Джеку Дорсі, придбало 4709 біткоіни, а в лютому 2021-го — ще 3318 біткоіни.

НВ


Читають Коментують
Українська співачка: мій чоловік незаконно покинув Україну, але йому не соромно
25 113
Відома українська співачка зменшила груди й показалася після операції: "Було мрією з 13 років"
20 634
Названо найрозумніші знаки зодіаку: для них немає непосильних завдань
20 323
Батько хотів включити "білий шум", аби дитина заснула, але щось пішло не так
17 969
Скільки потрібно грошей для комфортного життя в Україні: експерт назвав цифри
15 438
Менше цієї суми пенсіонери не можуть отримувати: рішення Конституційного Суду
15 220
Чоловік хотів придбати піджак, а знайшов чужий секрет: що виявилося у кишені
13 348
Чотири симптоми, які вказують на дуже високий артеріальний тиск
12 953
"Я в Польщі": Хто той блогер, чиє відео з перетину кордону стало вірусним у TikTok
12 678
Коли треба поєднати пляж і роботу: відео з Одеси розсмішило соцмережі
12 194
Мешканцям не дуже зручно говорити, звідки вони: під Харковом є село-запитання
12 176
Село-символ: знайдено населений пункт, назва якого влучно характеризує сучасне життя в Україні
11 956
Лікар назвав чотири продукти, які розчиняють тромби
11 855
5 знаків Зодіаку отримають вересневий сюрприз від Меркурія: шукайте себе в списку
0
Секрет довголіття: названа несподівана користь відомого чаю
0
Сеітаблаєв назвав найкращу українську актрису. Його відповідь здивувала ведучу
0
Як знизити артеріальний тиск за допомогою простих харчових звичок
0
За межею ілюзії: серфер підкорив озеро, у якому небо відзеркалюється у воді
0
Мешканці найгарнішого села у світі засмучені цим титулом: що непокоїть одразу 600 людей
0
Анатолій Анатоліч розніс путіністку Собчак і здивував, які брехливі повідомлення отримував від неї
0
Чотири знаки зодіаку, які найчастіше розбивають серця
0
Є з ким їсти гречку: українка похизувалась незвичайними вихованцями
0
"Такі речі принизливі": ексдружина Розового розповіла, що він хотів від неї в сексі
0
Як позбавитися похмілля: дієві народні методи
0
Село-символ: знайдено населений пункт, назва якого влучно характеризує сучасне життя в Україні
0
12 рослин, які категорично не можна обрізати восени: поради садівників
0
Дружба й секс: чи можна їх поєднати без неприємних наслідків

Дружба та сексуальність — це два потужні виміри людських ...

Несподіваний захисник: популярна закуска може значно знизити рівень «поганого» холестерину

Дослідження показало, що авокадо, основний інгредієнт ...

Від помпи до сенсора: як змінювалися дозатори для рідкого мила

Історія гігієни тісно переплетена з історією пристроїв, які ...