AI Voice Generation: новый способ взлома банковских счетов

• Программное обеспечение для генерации голоса с помощью ИИ можно использовать для воспроизведения голоса и получения доступа к банковским счетам.
• Программа голосовой идентификации Lloyds Bank была взломана с помощью программного обеспечения.
• Любой, у кого есть доступ к голосовым записям, потенциально может использовать программное обеспечение для генерации голоса ИИ для взлома банковских счетов.

Технический писатель недавно обнаружил, что программное обеспечение для генерации голоса с помощью ИИ можно использовать для нарушения мер безопасности банковского счета. Программное обеспечение использовалось для воспроизведения синтетического голоса, который мог получить доступ к информации об учетной записи, включая балансы и последние транзакции. В этой статье мы обсудим опасности программного обеспечения для генерации голоса с помощью ИИ, способы его использования и меры, которые банки могут принять для предотвращения мошеннических действий.

Опасности программного обеспечения для генерации голоса с помощью ИИ

Программное обеспечение для генерации голоса с помощью ИИ может создавать синтетические голоса, способные произносить любой текст, введенный на сайт. Это подвергает риску всех, поскольку любой, у кого есть доступ к записи голоса, потенциально может использовать программное обеспечение для воспроизведения голоса человека и получения доступа к конфиденциальной информации.

Джозеф Кокс, технический писатель Vice, недавно проверил меры безопасности автоматизированной линии обслуживания своего банка, используя клип, который он сделал с помощью инструмента для создания голоса ИИ. Через несколько секунд ему был предоставлен доступ к информации о его счете, включая остатки и последние транзакции. Позже он попробовал то же самое со счетом в Lloyds Bank, где его первая попытка не удалась, но после того, как программное обеспечение прочитало более длинные тексты, чтобы повысить правдоподобность его каденций, ему удалось получить доступ.

Как работает программное обеспечение для генерации голоса с помощью ИИ

Чтобы использовать программное обеспечение для генерации голоса с помощью ИИ, человек записывает несколько минут речи и загружает ее в программное обеспечение. Затем программное обеспечение создает синтетический голос, способный произнести любой текст, введенный на сайт. Программное обеспечение простое в использовании и не имеет надежных средств защиты от злоупотреблений.

Банки, использующие технологию голосовой аутентификации

Многие банки, в том числе Wells Fargo, TD Bank и Chase, используют технологию голосовой аутентификации, чтобы позволить пользователям выполнять банковские операции по телефону, например проверять баланс счета и историю транзакций, а также переводить деньги. Lloyds Bank может похвастаться тем, что его программа Voice ID безопасна и уникальна для каждого человека, анализируя более 100 характеристик, но, судя по всему, она не может отличить человеческие голоса от голосов, созданных искусственным интеллектом.

Возможные последствия

Поскольку инструменты искусственного интеллекта продолжают развиваться и улучшаться быстрыми темпами, то, что сейчас кажется передовыми мерами аутентификации, вскоре может стать очень простым для взлома. Рэйчел Тобак, генеральный директор SocialProofSecurity, рекомендует организациям, использующим голосовую аутентификацию, как можно скорее перейти на безопасный метод проверки личности, такой как многофакторная аутентификация. Технология генерации голоса AI позволяет людям взломать учетную запись человека, даже не взаимодействуя с ним в реальной жизни.

Прочитайте полную историю здесь…