Когда различные программы ИИ разрабатывают свои собственные языки для общения друг с другом, люди могут или не могут быть способны переводить, особенно если ИИ научится создавать собственное шифрование, чтобы «прятаться» от людей. ⁃ TN Editor
Игорь Мордач работает над созданием машин, которые могут вести разговор. Это то, над чем так много людей работают. В Силиконовой долине чатбот теперь добросовестное модное слово, Но Мордатч другой. Он не лингвист. Он не имеет дело с техниками искусственного интеллекта, которые обычно достигают языка. Он роботизатор, который начал свою карьеру в качестве аниматора. Он провел время в Pixar и работал над Toy Story 3В промежутках между академиками в таких местах, как Стэнфорд и Вашингтонский университет, где он учил роботов двигаться, как люди. «Создание движения с нуля - это то, что меня всегда интересовало», - говорит он. Теперь все эти знания собираются неожиданным образом.
31, родившийся в Украине и выросший в Торонто, в настоящее время является приглашенным исследователем в OpenAIлаборатория искусственного интеллекта, созданная основателем Tesla Элоном Маском и президентом Y комбинатором Сэмом Альтманом. Там Мордатч исследует новый путь к машинам, которые могут общаться не только с людьми, но и друг с другом. Он строит виртуальные миры, в которых программные боты учатся создавать свой собственный язык по необходимости.
Как подробно описано в исследовательской статье, опубликованной OpenAI на этой неделе, Мордатч и его сотрудники создали мир, в котором боты должны выполнять определенные задачи, например, перемещаться к определенной точке. Мир прост, просто большой белый квадрат - всех двух измерений - и боты имеют разноцветную форму: зеленый, красный или синий круг. Но смысл этой вселенной более сложен. Мир позволяет ботам создавать свой собственный язык как способ сотрудничества, помогая друг другу выполнять эти задачи.
Все это происходит через то, что называется усиление обучениятот же фундаментальный метод, который лежал в основе AlphaGoмашина из лаборатории DeepMind AI Google, взломавшая древнюю игру Go. По сути, боты перемещаются по миру с помощью проб и ошибок, тщательно отслеживая то, что работает, а что нет, когда они получают вознаграждение, например, достигают ориентира. Если конкретное действие помогает им достичь этой награды, они знают, что продолжают делать это. Таким же образом они учатся строить свой собственный язык. Говоря друг другу, куда идти, они все быстрее находят места.
Как говорит Мордач: «Мы можем свести успех диалога к следующему: в конечном итоге вы попали в зеленую банку или нет?»
Чтобы построить свой язык, боты назначают случайные абстрактные символы простым понятиям, которые они изучают, когда они перемещаются по своему виртуальному миру. Они назначают персонажей друг другу, местам или объектам в виртуальном мире, а также таким действиям, как «перейти» или «посмотреть на». Мордатч и его коллеги надеются, что, поскольку эти языки ботов станут более сложными, соответствующие методы смогут затем их перевести. на такие языки, как английский. Это еще далеко - по крайней мере, как практическая часть программного обеспечения - но другой исследователь OpenAI уже работает над этим видом «бота-переводчика».
В конечном счете, говорит Мордатч, эти методы могут дать машинам более глубокое понимание языка, фактически показать им, почему язык существует, и это обеспечивает трамплин для реального разговора, компьютерный интерфейс, о котором ученые-компьютерщики давно мечтали, но на самом деле никогда не использовали его.
wpDiscuz