"Придбала новий арсенал": жінку затримали через погрози розстрілом у чаті з Claude.

У Флориді 30-річну жінку затримали після її приватних бесід із чат-ботом на ім'я Claude. Згідно з інформацією американських ЗМІ, вона обговорювала зі штучним інтелектом плани влаштувати стрілянину в офісі шерифа округу Лі та згадувала про нещодавно придбану зброю. Небезпечні повідомлення були виявлені автоматизованою системою безпеки компанії Anthropic, яка створила Claude. Після аналізу листування фахівці компанії повідомили про ситуацію правоохоронцям.

Інформацію про цю справу опублікувало видання Gizmodo, посилаючись на Gulf Coast Now.

Мешканка Боніта-Спрінгс протягом деякого часу взаємодіяла з Claude, надсилаючи чат-боту загрозливі повідомлення, спрямовані проти місцевих поліцейських.

Система вперше зафіксувала подібне повідомлення 26 вересня о 5:10. Згідно з інформацією, жінка висловлювала погрози щодо стрільби в офісі шерифа округу Лі.

Наступне повідомлення, за словами, вона відправила 27 вересня о 1:07. У ньому жінка охарактеризувала свою ситуацію як "останній шанс" та зазначила, що придбала нову зброю.

Повідомлення користувачки привернули увагу автоматизованої системи моніторингу безпеки Anthropic. Якщо система оцінює певний контент як достатньо ризикований, його передають на перевірку людям.

Саме так сталося і цього разу. Співробітники Anthropic переглянули повідомлення та вирішили повідомити про потенційну загрозу правоохоронцям.

Після цього до оселі жінки прибули правоохоронці і затримали її. Під час арешту ніяких інцидентів не сталося.

Жінку обвинувачують у письмових загрозах насильством. Згідно з законодавством штату Флорида, це вважається тяжким злочином другого ступеня. Якщо її визнають винною, вона може отримати до 15 років позбавлення волі та штраф у розмірі до 10 тисяч доларів.

Після затримання шериф округу Лі Кармайн Марсено поділився з WINK News деталями, які надала затримана щодо свого спілкування з штучним інтелектом.

За його словами, жінка повідомила поліції, що використовувала Claude в ролі "особистого щоденника".

Anthropic не надала коментарів на запит Gizmodo з приводу цієї ситуації. Однак, згідно з політикою компанії, існує можливість передачі даних користувачів правоохоронним органам за визначених умов.

У документах Anthropic зазначено, що компанія зазвичай не розкриває інформацію про користувачів на вимогу державних органів без належної юридичної процедури. Виняток стосується надзвичайних ситуацій.

Організація має право розкривати інформацію у випадках, коли вважає, що існує ризик неминучої фізичної шкоди або навіть смерті, і що надання таких даних може допомогти уникнути цієї загрози.

У той же час, Білл Гейтс, співзасновник Microsoft, висловив думку, що штучний інтелект став настільки сильним інструментом, що в певних обставинах його застосування може загрожувати життю мільярдів людей. Він вважає, що держави повинні здійснювати контроль над найпотужнішими моделями ШІ, оскільки просте вимкнення небезпечної системи не є достатнім заходом.

Якщо Ви помітили орфографічну помилку, напишіть нам.