Исследователи считают, что программы ИИ изучают расовые и гендерные предрассудки

Википедия общин
Пожалуйста, поделитесь этой историей!

Программа ИИ, которая извлекает уроки из того, что люди знают и пишут, естественным образом выявляет все предубеждения и считает, что они нормальные. По сути, это означает, что негативные аспекты человеческого поведения будут просто перенесены на искусственный интеллект.  TN Editor

Инструмент искусственного интеллекта, который произвел революцию в способности компьютеров интерпретировать повседневный язык, продемонстрировал поразительные гендерные и расовые предрассудки.

Полученные результаты вызывают призрак существующих социальных неравенств и предрассудков, которые усиливаются новыми и непредсказуемыми способами, поскольку все большее число решений, влияющих на нашу повседневную жизнь, передается автоматам.

В последние несколько лет способность таких программ, как Google Translate, интерпретировать язык значительно улучшилась. Эти успехи были достигнуты благодаря новым методам машинного обучения и наличию огромного количества онлайн текстовых данных, на которых можно обучить алгоритмы.

Однако, по мере того, как машины становятся ближе к приобретению человеческих языковых способностей, они также поглощают глубоко укоренившиеся предубеждения, скрытые в рамках моделей использования языка, как показывают последние исследования.

Джоанна Брайсон, специалист по информатике в Университете Бата и соавтор, сказала: «Многие люди говорят, что это показывает, что ИИ предубежден. Нет. Это показывает, что мы предубеждены и что ИИ изучает это ».

[the_ad id = "11018 ″]

Но Брайсон предупредил, что ИИ обладает потенциалом для усиления существующих предубеждений, потому что, в отличие от людей, алгоритмы могут быть не приспособлены для сознательного противодействия изученным предубеждениям. «Опасность была бы, если бы у вас была система ИИ, в которой не было явной части, движимой моральными идеями, это было бы плохо», - сказала она.

Исследование, опубликованное в журнале Наука, фокусируется на инструменте машинного обучения, известном как «встраивание слов», который уже меняет способ, которым компьютеры интерпретируют речь и текст. Некоторые утверждают, что естественный следующий шаг для технологии может включать машины, развивающие человеческие способности, такие как здравый смысл и логика.

«Основная причина, по которой мы решили изучать встраивание слов, заключается в том, что за последние несколько лет они очень успешно помогли компьютерам понять язык», - сказал Арвинд Нараянан, ученый из Принстонского университета и старший автор газеты.

Подход, который уже используется в веб-поиске и машинном переводе, работает путем построения математического представления языка, в котором значение слова переходит в ряд чисел (известный как вектор слов), на основе которых другие слова чаще всего появляются рядом с ним. Возможно, удивительно, что этот чисто статистический подход, кажется, отражает богатый культурный и социальный контекст того, что слово означает в том смысле, в котором словарное определение было бы неспособно.

Прочитайте полную историю здесь…

Подписаться
Уведомление о
гость

1 КОММЕНТАРИЙ
Старые
Новые По голосам
Встроенные отзывы
Посмотреть все комментарии
Найджел

Предрассудки - это часть человеческого состояния: мы вступаем в партнерские отношения с людьми, которые выглядят так же, как мы, мы собираемся в группы, которые похожи на нас и придерживаются наших взглядов, мы с подозрением смотрим на тех, кто не является и не придерживается - это наш эволюционный путь. Это еще одна точка раскола, выявленная этой технократией - это оскорбление, напряжение, наложенное на саму ткань того, кем мы являемся. Отрицать наши различия и не позволять нам праздновать их противоречит нашей природе, причиняет нам глубокие страдания и стремится к тому, что... Читать дальше