Неопределённость в эпоху ИИ (искусственного интеллекта): проблема принципа «виновен вне всяких разумных сомнений». Часть 1
Рав Шай Тахан
Представим себе ситуацию: человека доставляют в суд по подозрению в тяжких преступлениях. Изобличающие действия запечатлены на видеозаписях, которые, казалось бы, служат неопровержимым доказательством. Однако обвиняемый оспаривает обвинения: он признаёт, что на видео изображён он, но утверждает, что невиновен. Его адвокат выдвигает правдоподобный довод, предполагая, что изображения могли быть сгенерированы ИИ (искусственным интеллектом), и тем самым ставит под сомнение подлинность доказательств. В сфере уголовного правосудия формула «виновен вне всяких разумных сомнений» имеет огромное значение. Она служит краеугольным камнем правовой системы, гарантируя, что обвиняемым в преступлениях обеспечивается справедливый суд и защита от неправосудного осуждения.
Этот принцип устанавливает высокую планку доказывания, которой обвинение обязано соответствовать, чтобы добиться обвинительного приговора, и подчёркивает всю серьёзность лишения человека свободы на основании доказательств, не оставляющих места для разумной неуверенности. В эпоху, когда приложения ИИ способны без труда создавать реалистичные изображения и видео людей, якобы совершающих преступления, надёжность визуальных доказательств оказалась под вопросом. Такие сгенерированные ИИ изображения и видео зачастую выполнены настолько тщательно, что могут воспроизводить внешность человека и даже копировать его голос с поразительной точностью. Этот технологический прогресс вызывает опасения относительно возможной дезинформации, манипуляций и подрыва доверия к визуальным доказательствам в судебных разбирательствах.
Формула «виновен вне всяких разумных сомнений» теперь требует толкования в новом измерении. Поскольку ИИ размывает границы между реальностью и подделкой, правовым системам приходится заново определять, что представляет собой разумное сомнение применительно к визуальным доказательствам. Трудность состоит в том, чтобы отличить подлинные записи от контента, созданного ИИ, а также установить происхождение и целостность подобных доказательств.
Осуждение на основании записей и видео.
Позиция Торы в отношении того, можно ли опираться на записи или видео для изобличения, требует тщательного рассмотрения. Талмуд (דר״ה פ״ב) проливает свет на этот вопрос в своих обсуждениях того, как устанавливается начало нового месяца. Процедура включает наблюдение новой луны, когда двое свидетелей дают показания перед бейт дином в Иерусалиме. Проверив достоверность слов свидетелей, бейт дин объявляет о начале нового месяца. В рассуждении о достоверности свидетельских показаний Гемара (ראש השנה כד,א) проясняет один конкретный случай. Она учит нас, что если свидетели видели не саму луну, а лишь её отражение, например, в воде, их показания признаются недействительными, и бейт дин их не принимает.
Проводя параллель, книга «Сефер Алахот Ктанот» (סימן פב) сравнивает это с наблюдением отражения луны в зеркале и утверждает, что такое свидетельство тоже было бы отвергнуто судом. Однако Хида (ברכי יוסף חו״מ סימן לה אות יא) предлагает иной взгляд. Он утверждает, что отражение в зеркале вполне может считаться действительным свидетельством благодаря его большей чёткости по сравнению с отражением в воде. Соответственно, он полагает, что эта чёткость делает свидетельство по зеркалу приемлемым. Применяя эти положения к современным условиям, некоторые поским разрешают использовать изображения с фотографий или видео в качестве доказательства при условии, что они отличаются высокой степенью чёткости.
(עיין יבי״א ח״ו אבה״ע ס״ג, וכן התיר בשו״ת עין יצחק אבה״ע סי‘ לא אות ג) Это соображение исходит из того, что если представлено ясное и точное изображение, оно соответствует тому значению, которое Тора придаёт достоверному свидетельству.
Бескомпромиссный стандарт осуждения в Торе
С точки зрения Торы принцип «виновен вне всяких разумных сомнений» принимает ещё более строгую форму. Требование Торы для осуждения превышает уровень разумного сомнения — она требует абсолютной уверенности. Тора требует, чтобы свидетели видели преступление собственными глазами, а не полагались на убедительные косвенные улики. Этот строгий подход подкреплён указанием Торы в стихе «שמות ז כג», который гласит: («И невинного и праведного не убивай»). Это означает, что пока человека не видели непосредственно совершающим преступление, он остаётся невиновным. Другой стих подчёркивает («защитите общину»), указывая на обязанность ограждать обвиняемого. Разумеется, нам известно провозглашение Мишны о том, что Санедрин, еврейский суд, выносящий смертный приговор хотя бы раз в 7 лет (а по некоторым мнениям, даже раз в 70 лет), именуется «губительным бейт дином» (מכות א,י). Этот взыскательный подход прослеживается в различных талмудических и галахических источниках и подчёркивает непоколебимую приверженность справедливости:
Иллюстрация строгих правовых стандартов Торы.
Показательный пример содержится в рассказе рабби Шимона бен Шатаха (סנהדרין לז,ב). Он увидел, как один человек гонится за другим с ножом в руке. Они вошли в заброшенное здание, и когда рабби вошёл туда, он обнаружил преследователя с окровавленным ножом, а жертва лежала смертельно раненная. Однако рабби Шимон бен Шатах признал, что закон Торы не позволяет ему осудить преследователя. Несмотря на то что он видел все эти обстоятельства, рабби подчеркнул, что не может быть свидетелем самого удара ножом, поскольку в действительности не видел преступления. Кроме того, закон Торы предписывает, что для осуждения необходимы двое свидетелей. Хотя рабби воздержался от правовых действий, он сделал преследователю внушение, предсказав, что его постигнет Б-жественное возмездие.
Денежные обязательства зависят от непосредственного свидетельства.
Этот подход не ограничивается делами, влекущими смертную казнь; он распространяется и на обязательную денежную ответственность. Лишь когда свидетели обладают непосредственным знанием, они могут обязать к выплате. Талмуд углубляется в правовые принципы, рассказывая о необычном случае с верблюдом. Этот верблюд вёл себя агрессивно, нападая на других верблюдов, кусая и лягая их. Свидетели присутствовали при эпизоде, когда буйный верблюд неистовствовал. Вскоре после этого свидетели наткнулись на другого верблюда, бездыханного, рядом с буйным верблюдом. Однако, что существенно, эти свидетели не видели непосредственно, как произошло убийство. Далее Гемара приводит интересную точку зрения рава Аха.
Он утверждал, что владелец буйного верблюда действительно должен нести ответственность за причинённый ущерб. По его мнению, наблюдавшегося агрессивного поведения верблюда в сочетании с последующим обнаружением мёртвого верблюда достаточно, чтобы обязать владельца выплатить возмещение. Однако при рассмотрении этого случая согласно галахе результат оказывается иным. Установлено, что владелец буйного верблюда освобождается от денежной ответственности. Обоснование этого постановления заключается в том, что, согласно галахе, непосредственное наблюдение самого убийства является необходимым условием для возложения такой ответственности. Поскольку свидетели в этом случае не видели самого момента убийства, владелец по галахе не признаётся виновным.
Этот пример подчёркивает строгие критерии осуждения в Торе, которые требуют виновности вне всякого сомнения. Стандарта «вне разумных сомнений» по меркам Торы недостаточно.
Осуждение на основании веских доказательств:
С другой стороны, существуют случаи, когда косвенные улики настолько весомы, что исключают любое альтернативное объяснение. В таких случаях Тора разрешает осуждение или возложение обязательства на основании этих убедительных доказательств. «Арух а-Шульхан» (חו״מ סימן צ סעיף טז) приводит пример, иллюстрирующий этот принцип. В нём рассматривается ситуация, когда два человека входят в пустой дом, не имеющий другого входа. Эти люди выходят, и у одного из них оказывается рана, которую можно объяснить лишь тем, что её нанёс другой, — например, рана между лопатками или на спине. Отсутствие какого-либо другого правдоподобного объяснения делает эту косвенную улику достаточно весомой для осуждения.
Другой случай, упомянутый в Туре (שם), касается человека, который входит в помещение, где находятся определённые предметы, а после его выхода эти предметы загадочным образом исчезают. Поскольку в это время в комнате больше никого не было и другого доступа в неё нет, единственный разумный вывод — что этот человек украл вещи. Поэтому галаха обязывает его либо вернуть вещи, либо заплатить за них. Эти примеры подчёркивают тонкий подход Торы к доказательствам: принцип «вне всякого сомнения» иногда удовлетворяется косвенными уликами, настолько убедительными, что они не оставляют места для сомнения. Эти ситуации отражают взвешенный и справедливый взгляд, который Тора привносит в правовые вопросы, обеспечивая тщательную оценку доказательств при соблюдении принципов справедливости.
Итог:
Подводя итог этим понятиям, очевидно, что осуждать кого-либо исключительно на основании фотографий или видео, сколь бы точными они ни казались, больше невозможно. Достижения современных технологий ИИ не только не отвечают критерию «вне сомнения», но и не дотягивают до стандарта «вне разумных сомнений». С учётом сложностей, порождённых ИИ, однозначность визуальных доказательств поставлена под сомнение. Хотя эти технологические достижения открывают невероятные возможности, они также привносят новые слои неопределённости в судебные разбирательства. Это подчёркивает важность всесторонней и критической оценки доказательств в стремительно меняющемся технологическом мире. Этой статьёй открывается серия, посвящённая новизне вызовов, которые искусственный интеллект ставит с точки зрения галахи. В следующей части мы рассмотрим вопрос о том, может ли бейт дин преодолеть вышеупомянутую проблему. Следите за продолжением на следующей неделе.
Впервые опубликовано в The Jewish Vues.
