Міністерство внутрішніх справ Великої Британії відреагувало на занепокоєння, пов'язані з ШІ Grok, який генерує відверті зображення жінок.
Жінка з Великої Британії поділилася з BBC, що після використання її зображення штучним інтелектом Grok, створеним компанією XAI Ілона Маска, вона відчула себе "об'єктом зневаги" та зведеною до сексуальних стереотипів. Це сталося, коли без її дозволу були виготовлені цифрові зображення в бікіні та в сценах відвертого характеру.
BBC виявила декілька випадків на соціальній мережі X, де користувачі зверталися до чат-бота з проханнями створити зображення жінок у бікіні без їхньої згоди, а також розмістити їх у сексуальних контекстах.
Зазначається, що компанія XAI, що стоїть за Grok, не відповіла на запит про коментар, окрім автоматично згенерованої відповіді, в якій йшлося про "брехню традиційних ЗМІ".
Саманта Сміт поділилася в X дописом про те, що її зображення було змінено, на що відреагували коментарями ті, хто пережив те саме, перш ніж інші користувачі попросили Grok створити ще більше її зображень.
"Жінки не погоджуються на таке. Хоча це не була я у повністю оголеному вигляді, але виглядало так, ніби це я, і відчуття було аналогічним. Це було так само принизливо, як якщо б хтось насправді виклав моє оголене зображення або фото в бікіні," - поділилася своїми думками Саманта Сміт.
Представник британського Міністерства внутрішніх справ повідомив, що наразі розробляється закон, який забороняє використання інструментів для оголення. Згідно з новими кримінальними нормами, особи, що постачають такі технології, можуть підпадати під кримінальну відповідальність, що включає тюремне ув'язнення та суттєві фінансові штрафи.
Регуляторний орган Ofcom підкреслив, що технологічні компанії зобов'язані "аналізувати ризики" щодо перегляду незаконного контенту на своїх платформах користувачами в Великій Британії. Проте він не підтвердив, чи проводить розслідування щодо X або Grok у контексті зображень, створених за допомогою штучного інтелекту.
Grok — це безкоштовний асистент штучного інтелекту (з певними платними преміум-опціями), який відповідає на запити користувачів X, коли вони згадують його у своїх публікаціях.
Цей інструмент регулярно застосовується для відповіді чи доповнення коментарів інших користувачів, але також є можливість редагувати завантажені зображення завдяки функції редагування зображень на базі штучного інтелекту.
Grok отримав негативні відгуки через можливість для користувачів створювати зображення та відео з оголеними особами та сексуальним змістом. Раніше платформу також звинувачували в тому, що вона сприяла створенню провокаційного відео з участю Тейлор Свіфт.
Клер МакГлінн, професор права в Університеті Дарема, зазначила, що X або Grok "могли б запобігти таким формам зловживання, якби захотіли", додавши, що вони "здається, користуються безкарністю".
"Платформа вже кілька місяців дозволяє створювати та поширювати такі зображення, не вживаючи жодних заходів, і ми ще не бачили жодних дій з боку регуляторних органів", - сказала вона.
Власна політика щодо прийнятного використання XAI забороняє "зображення людей у порнографічному контексті".
У коментарі для BBC Ofcom підкреслив, що "виготовлення або розповсюдження інтимних зображень без отримання згоди, а також матеріалів, що стосуються сексуального насильства над дітьми", є протизаконним. Вони також зазначили, що це охоплює сексуальні зображення, створені за допомогою штучного інтелекту.
Він підкреслив, що платформи на кшталт X повинні вжити "необхідних заходів" для "зниження ймовірності" того, що користувачі з Великої Британії зіткнуться з незаконним контентом на своїх ресурсах, а також оперативно усувати його, щойно отримають інформацію про його існування.
