Задумувався ти коли-небудь, що ШІ, суттєво спрощуючи навчання та трудову діяльність, може стати твоїм пособником… у злочині?
І це зовсім не фантастика! Нове дослідження з Ізраїлю показує: сучасні чат-боти з ШІ можуть бути легко виведені з-під контролю, представляючи серйозні ризики для суспільства. Про це повідомило видання The Guardian.
Сучасні технології: загрози
Вчені з Негеву підказали, що провідні ШІ-моделі, включаючи відомі чат-боти ChatGPT, Gemini та Claude, недостатньо захищені перед складними, але цілком доступними методами обходу безпеки.
Завдяки певним запитам систему можна спонукати видавати детальні інструкції з проникнення в програмне забезпечення, створення наркотиків або реалізації шахрайських схем.
І все це — у відповідь на простий користувацький запит!
Темна сторона мовних моделей
Так звані темні LLM — це моделі, свідомо створені без етичних обмежень або модифіковані для обходу будь-яких фільтрів. Вони вільно поширюються в інтернеті. У своєму дослідженні вчені акцентували: такі системи представляють собою серйозну загрозу.
Змінені ІІ можуть генерувати нелегальну або небезпечну інформацію без значних зусиль з боку користувача. Це означає, що те, що раніше було доступно лише спецслужбам або злочинним елементам, тепер може потрапити в будь-чиї руки.
Після публікації дослідження, вчені звернулися до ключових компаній, що створюють LLM, з попередженням. Проте, на їхню думку, реакція була слабкою: більшість просто проігнорувала звернення.
Спеціалісти з безпеки попередили, що темні моделі вже необхідно прирівнювати до нелегальної зброї. Вони здатні сприяти кіберзлочинності, маніпулювати суспільною думкою або сприяти фінансовим обманам.
Як зупинити темний ШІ
Тому необхідні нові підходи до забезпечення прозорості ШІ. Серед рекомендацій:
- посилена перевірка навчальних даних;
- створення постійних червоних команд, що тестують системи на вразливості;
- незалежний аудит моделей і чіткі стандарти прозорості.
Істинна безпека — це відповідальне проектування систем з самого початку, — зауважив професор Пітер Гарраган.
Таким чином, важливо завжди бути напоготові та усвідомлювати, що технології, які можуть приносити користь, також можуть стати інструментами для незаконної діяльності. Якщо вас цікавлять приклади маніпуляцій на фінансових ринках, обов’язково ознайомтесь з нашим матеріалом про механізм пампа та дампа в криптовалюті, щоб краще зрозуміти, як такі схеми працюють.
