MIT удалил базу данных, которая сделала искусственный интеллект расистом и сексистом

Алгоритм машинного обучения хорош только в тех случаях, когда он работает исправно или хотя бы так, как того требует толерантное и очень ранимое общество.

MIT удалил базу данных, которая сделала искусственный интеллект расистом и сексистом
© wrongkindofgreen.org

Один из таких алгоритмов, как утверждают специалисты, дал сбой, превратив искусственный интеллект (ИИ) в расиста и женоненавистника.

Алгоритм был разработан в Массачусетском технологическом институте (MIT), но «дал сбой» и из-за этого пришлось удалить 80 миллионов записей в базе данных. С 2008 года эта база использовалась для обучения ИИ распознавать изображения, но алгоритм не исследовался на предмет расистского или оскорбительного содержания.

Проблемы с алгоритмом

ИИ учится идентифицировать и интерпретировать объекты на изображениях, опираясь на опыт, полученный благодаря миллионам уже идентифицированных изображений, загруженных заранее.

В какой-то момент ИИ стал помечать чернокожих людей и обезьян одним N-словом, а к женщинам применял оскорбительные, явно женоненавистнические термины. Таким образом, ИИ как бы поддержал архаичные человеческие предрассудки.

«Понятно, что мы должны были обрабатывать все вручную. За этот сбой мы искренне извиняемся. Сейчас мы занимаемся удалением оскорбительных изображений, категорий и подписей», — прокомментировал Антонио Торралба, специалист по компьютерам и электротехнике MIT.

Позже MIT заявил, что база данных была удалена целиком

После инцидента в MIT началась ручная чистка, но людям оказалось не под силу обработать такое количество информации, поэтому база данных была просто удалена.

«Ручная проверка, даже если была бы возможна, все же не гарантирует полного удаления оскорбительных материалов», — сказано в заявлении MIT.

Один комментарий к “MIT удалил базу данных, которая сделала искусственный интеллект расистом и сексистом

  1. ИИ вне политики, он не может никого оскорбить т.к. ему все абсолютно безразличны и он отражает лишь реальность. которую не хотят признавать политики ведь за них голосуют черные и женщины!!! … Не признание реальности в любом, неминуемо ведет к катастрофе!!! … Т.к. не признание что черные и женщины живут хотелкой, а не умом и моральными законами как остальное человечество к развалу семьи всего человечества и сделало из многих черных и женщин паразитов человечества!!!

Добавить комментарий

Ваш адрес email не будет опубликован.

Закрепите на Pinterest