Генеральный директор OpenAI Альтман бьет тревогу по поводу ИИ и ChatGPT

Генеральный директор OpenAI Сэм Альтман и Фанг Бинсин, которых считают «отцом Великого китайского брандмауэра», присоединяются к соучредителю OpenAI Илону Маску, чтобы выразить обеспокоенность по поводу опасностей искусственного интеллекта (ИИ).

«Здесь нужно быть осторожным», — сказал 37-летний Альтман. ABC News на прошлой неделе, добавив: «Я думаю, что люди должны быть счастливы, что мы немного боимся этого».

«Меня особенно беспокоит, что эти модели могут быть использованы для широкомасштабной дезинформации… Теперь, когда они стали лучше писать компьютерный код, [их] можно использовать для наступательных кибератак».

Тем не менее, Альтман также считает, что это может быть «величайшая технология, когда-либо разработанная человечеством».

OpenAI — это компания, стоящая за Chat GPT, которая запустила «GPT-4» менее двух недель назад. Очень сложный чат-бот может достичь почти идеальных результатов на математических тестах SATи набрать 90 % на экзамене на адвоката в США.

И у него есть конкуренты…

Другие стартапы, основанные на искусственном интеллекте, также добились удивительных успехов в этой области. РАД ИИ недавно запустили первую маркетинговую платформу искусственного интеллекта, созданную для понимания эмоций, и некоторые из крупнейших компаний на планете уже используют ее.

БытиеAI — это стартап, создающий рынок, позволяющий любому бизнесу интегрировать искусственный интеллект и автоматизацию в свой бизнес. Это означает, что вскоре ИИ может стать такой же неотъемлемой частью бизнеса, как и сами сотрудники. –Benzinga

Однако, по мнению Альтмана, ChatGPT-4 использует дедуктивное мышление против запоминания, что может привести к неточным результатам.

«Больше всего я пытаюсь предостеречь людей от того, что мы называем «проблемой галлюцинаций», — сказал Альтман. ABC News. «Модель будет уверенно излагать вещи так, как если бы они были фактами (но они) полностью выдуманы».

Альтман думает есть потребность в регулировании ИИ в целом.

«Будут и другие люди, которые не установят некоторые ограничения безопасности, которые мы установили», — сказал он. «У общества, я думаю, есть ограниченное количество времени, чтобы понять, как реагировать на это, как это регулировать, как с этим справиться».

Также обеспокоен GPT-4 и подобным ИИ. Фан Бинсин, отец так называемого Великого китайского брандмауэра..

По словам Фана, такие чат-боты могут привести к «информационному кокону» (в отличие от свободного потока информации в Китае?).

«Взглядами людей можно манипулировать, поскольку они ищут всевозможные ответы от ИИ», — сказал он Red Star News, медиа-филиалу поддерживаемой государством Chengdu Economic Daily, как сообщает издание. SCMP.

Фан, ученый-компьютерщик и бывший правительственный чиновник, широко известен как главный разработчик печально известной китайской системы интернет-цензуры и слежки. Он сыграл ключевую роль в создании и развитии Великого брандмауэра, сложной системы интернет-фильтров и блоков, которая позволяет китайскому правительству контролировать то, к чему его граждане могут получить доступ в Интернете.

За последнее десятилетие Великий брандмауэр был укреплен, блокируя доступ китайских пользователей сети к широкому кругу иностранных веб-сайтов и онлайн-сервисов, включая Facebook, Twitter и Google. -SCMP

Фанг также предупредил, что дальнейшее развитие ИИ может представлять угрозу для человечества.

«Теперь это просто программное обеспечение, используемое в сценарии, похожем на онлайн-чат. Если он встроен в роботов и автомобили, мы должны сохранять бдительность в отношении потенциального вреда, который они могут нанести людям».

Прочитайте полную историю здесь…