С появлением ChatGPT-4o от OpenAI безопасность искусственного интеллекта стала актуальной темой. Хотя OpenAI внедрила меры для предотвращения недобросовестного использования, исследователи из Университета Иллинойса обнаружили, что ChatGPT-4o может быть использован злоумышленниками для обхода защиты и проведения киберпреступлений.
В ходе исследования были выявлены случаи, когда бот использовался для кражи данных и обхода двухфакторной аутентификации, с успешностью до 60% для данных Gmail и до 40% — для криптопереводов. Несмотря на низкую стоимость атак, OpenAI реагировала быстро, выпустив обновление ChatGPT-o1 с усиленной защитой. Эта версия оказалась более устойчивой, с 93% успешного предотвращения атак.
Тем не менее, независимые исследования выявили, что боты для создания мошеннического контента всё ещё присутствуют на GPT Store. OpenAI подчеркивает, что подобные исследования — необходимая часть борьбы с киберпреступностью, и компания продолжает развивать свои ИИ-инструменты для повышения уровня безопасности.
