Бенджио, главный изобретатель ИИ, говорит: «Это сценарий Большого брата 1984 года». Бенжио и его коллеги-учёные-технократы должны были думать об этом раньше, но это отражает их поллианский взгляд на человечество. ⁃ Редактор TN
Йошуа Бенжио, канадский специалист по компьютерным технологиям, который помог освоить методы, лежащие в основе нынешнего возбуждения вокруг искусственного интеллекта, обеспокоен использованием в Китае ИИ для наблюдения и политического контроля.
Бенжио, который также является соучредителем компании Element AI, занимающейся разработкой программного обеспечения для искусственного интеллекта в Монреале, сказал, что его беспокоит технология, которую он помог создать, чтобы контролировать поведение людей и влиять на их умы.
«Это сценарий« Большого брата »1984 года», - сказал он в интервью. «Я думаю, это становится все более и более страшным».
Бенжио, профессор Монреальского университета, считается одним из трех «крестных отцов» глубокого обучения наряду с Яном ЛеКуном и Джеффом Хинтоном. Это технология, использующая нейронные сети - своего рода программное обеспечение, в значительной степени основанное на аспектах человеческого мозга - для прогнозирования на основе данных. Он отвечает за последние достижения в алгоритмах распознавания лиц, обработки естественного языка, перевода и рекомендаций.
Для глубокого обучения требуется большой объем данных, чтобы предоставить примеры, на которых можно учиться, но в Китае с его огромным населением и системой государственного учета таких данных много.
Китайское правительство начало использовать видеокамеры с замкнутым контуром и систему распознавания лиц для наблюдения за тем, что его граждане делают в общественных местах, от переходов на улицу до участия в политическом инакомыслии. Он также создал Национальную платформу обмена кредитной информацией, которая используется для занесения в черный список железнодорожных и авиапассажиров за «антиобщественное» поведение, и рассматривает возможность расширения использования этой системы в других ситуациях.
«Использование вашего лица для отслеживания вас должно строго регулироваться, - сказал Бенжио.
Бенжио не одинок в своем беспокойстве по поводу сценариев использования ИИ в Китае. Миллиардер Джордж Сорос недавно использовал речь на Всемирном экономическом форуме 24, чтобы осветить риски, которые использование ИИ в стране представляет для гражданских свобод и прав меньшинств.
В отличие от некоторых сверстников, Бенжио, возглавляющий Монреальский институт алгоритмов обучения (Мила), не поддался соблазну работать в крупной рекламной технологической компании. Он сказал, что ответственное развитие ИИ может потребовать от некоторых крупных технологических компаний изменить методы своей работы.
Объем данных, контролируемых крупными технологическими компаниями, также вызывает озабоченность. Он сказал, что создание трастов данных - некоммерческих организаций или юридических структур, в соответствии с которыми люди владеют своими данными и разрешают их использование только для определенных целей, - может быть одним из решений. Он сказал в четверг во время выступления в лондонском офисе Amnesty International UK, если у траста будет достаточно данных, он сможет заключить более выгодные условия с крупными технологическими компаниями, которые в этом нуждаются.
wpDiscuz