В последних новостях об искусственном интеллекте исследователи раскрыли некоторые возможные угрозы безопасности, которые присущи инструментам искусственного интеллекта (ИИ), таким как ChatGPT от OpenAI.
Угроза вредоносного ПО для ChatGPT
С учетом темпа, с которым различные инструменты искусственного интеллекта запускаются различными компаниями, можно подумать, что их использование не сопряжено с рисками.
Однако новые исследования в области этих инновационных технологий показали, что пользователи могут быть предрасположены к некоторым угрозам безопасности, хотя в настоящее время это не так. Следует отметить, что уже существуют опасения относительно безопасности ИИ, как отмечают различные регулирующие органы.
Исследователи отметили, что инструменты ИИ, такие как ChatGPT и Gemini от Google, последняя версия которого была выпущена несколько недель назад, могут стать очагами угроз от вредоносного ПО.
Исследование обнаружило вредоносный червь, который “использует недостатки архитектуры для экосистемы GenAI и не является уязвимостью сервиса GenAI.” Этот вредоносный червь назван Morris II в честь червя Morris 1988 года, который сбил около 10% всех компьютеров, подключенных к Интернету тогда.
Этот вид вредоносного червя способен разрушать, реплицируясь и распространяясь на другие системы. Большую часть времени для заражения Генеративного ИИ ему не требуется взаимодействие с пользователем. Обычно эти платформы GenAI требуют подсказок и инструкций в текстовом формате для выполнения своих функций. Morris II пытается перехитрить систему, компрометируя подсказки и превращая их во вредоносные инструкции.
Вредоносные подсказки обманывают GenAI, заставляя его выполнять разрушительные действия без ведома пользователя или системы.
Как защитить компьютер от вредоносных червей
Следовательно, пользователям ИИ рекомендуется быть бдительными и осторожными по отношению к электронным письмам и ссылкам из неизвестных или недоверенных источников. Для усиления защиты пользователи также могут инвестировать в надежное и эффективное антивирусное программное обеспечение, которое легко определит и удалит вредоносное ПО, включая эти компьютерные черви. По мнению исследователей, это лучший способ защитить систему от вредоносных червей.
Использование надежных паролей, постоянное обновление системы и ограничение обмена файлами – некоторые из других предложений для ограничения действий вредоносных червей.
Среди этих исследований был представлен новый инструмент ИИ, который способен воссоздавать человеческий голос, разработанный OpenAI Сэма Альтмана. Voice Engine требует ввода текста и одного 15-секундного аудиообразца для воссоздания голоса человека. Учитывая его модель GenAI, у этого нового инструмента также есть высокий потенциал для эксплуатации злоумышленниками, когда он, наконец, станет доступен после завершения текущего тестирования.
