Истец встроил скрытые команды ИИ в судебные документы, пытаясь манипулировать автоматической проверкой, и суд отозвал у него права на электронную подачу.
По сообщениям TechFlow, 15 августа, согласно сообщению The Decoder, истец из штата Коннектикут Matthew Elliott, представляющий себя сам, встроил скрытые AI-инструкции в судебные документы, пытаясь повлиять на возможную систему автоматической проверки AI. Эти инструкции были выполнены белым шрифтом размера 3 на белом фоне, почти незаметны для человеческого глаза, но AI может их полностью прочитать; содержание предназначалось для того, чтобы побудить AI выводить результаты, соответствующие его требованиям, и отменить предыдущее решение клерка об отклонении. Суд обнаружил подозрения из-за аномальных пустых областей в документе и таким образом раскрыл эту манипуляцию. Судья Walter Spader Jr. сравнил этот поступок с «тайным общением с присяжными» и указал, что суды Коннектикута на самом деле не используют AI для проверки документов, поэтому это не повлияло на результат, но само намерение манипулировать представляет проблему. В качестве санкции суд отозвал у Elliott привилегию электронной подачи документов, потребовав, чтобы все его документы подавались лично в бумажном виде.





