Ученые против «предсказуемости преступлений» |Les scientifiques contre la « prédictibilité des crimes »

В начале января 2020 года афроамериканец Роберт Уильямс провел 30 часов в тюрьме Детройта из-за того, что компьютерная программа «узнала» в его фотографии на водительском удостоверении вора, запечатленного камерами наблюдения во время ограбления магазина часов. Это – первая ошибка, связанная с технологией распознавания лиц, официально зафиксированная в США. Удивительно, что жалоба в связи с ошибочным задержанием была подана истцом только в прошлую среду. 

Впрочем, не очень и удивительно, ведь на волне движения Black Lives Matter, стихийно возникшего в США после убийства полицейским Джорджа Флойда и охватившего чуть ли не весь мир, на поверхность всплывает всякое – как разумное, так и, на наш взгляд, не очень. Но тем временем американские технологические гиганты Amazon, IBM и Microsoft решили приостановить продажу полиции программ, позволяющих устанавливать личность по фотографии, в ожидании разработки четких правил их использования. Также в прошлую среду Бостон стал вторым крупнейшим городом США после Сан-Франциско, запретившим полицейским использовать технологии распознавания лиц.

Можно предположить, что это только начало. Разумеется, за ошибку, допущенную в отношении Уильямса, полиция Детройта должна извиниться и предложить компенсацию за моральный ущерб. Но в целом нельзя не задаться вопросом, как можно требовать от полиции повышения эффективности в борьбе с преступностью, лишая ее современных «орудий труда»? Как «уравновесить» возможный прискорбный «побочный эффект» от новых технологий и общественное благо? Ответ на этот вопрос гораздо более сложен, чем решение и свержении или сохранении памятников.

Что касается Швейцарии, то о памятниках мы уже писали – Давид де Пюри пока еще держится, и есть надежда, что не склонные к скоропалительным решениям швейцарцы найдут более цивилизованный способ рассказать о темных местах в его биографии, чем отправить на сплав творение скульптора Давида д’Анже. Но одними памятниками не обойдется.

Более двух тысяч ученых, представляющих многочисленные университеты – в основном, американские, и самые престижные, но не только – уже поставили свои подписи под открытым письмом, адресованным немецкому издательству Springer. Его цель – остановить публикацию исследования Университета Харрисбурга (Пенсильвания) под названием «Модель глубокой нейросети для предсказания преступности путем обработки изображений». Если вкратце и простыми словами, то его авторы утверждают, что разработали программу распознавания лиц, способную, на основании одной фотографии, предсказывать, собирается ли кто-то совершить преступление – «с 80% достоверности и без всяких расовых предубеждений». C такой оценкой их «открытия» категорически не согласны их многочисленные коллеги – возможно, этим объясняется намерение авторов опубликовать «находку» в Германии, а не на ее родине США, где существует столько качественных научных изданий. Но это только наше предположение, важнее суть.

А суть в том, что, по мнению уважаемых подписантов открытого письма – среди которых признанные эксперты в области статистики, искусственного интеллекта, правоведения, социологии, истории, антропологии и других областей знаний, – «планирующаяся публикация требует коллективного ответа, поскольку она символизирует значительную массу компьютерных исследований, утверждающих способность идентифицировать или предсказать «преступность» на основе биометрической и/или криминально-юридической информации». Такие утверждения, считают авторы письма, «базируются на необоснованных научных гипотезах, разработках и методах, опровергнутых многочисленными исследованиями в различных областях», иллюстрирующими опасность использования искусственного интеллекта в правоохранительной системе.

Не верят авторы письма и в «расовую непредвзятость» коллег из Пенсильвании. Представленные «данные отражают многочисленные предубеждения, присущие нашему обществу, - говорится в письме. – Каждая используемая нами статистическая сводка, каждая база данных – объект того или иного предубеждения. Тот факт, что эти исследователи настаивают на отсутствии предубеждений в их системе, как раз и вызывает наши опасения. Они пытаются использовать статистику как доказательство объективности при том, что данные, используемые для создания алгоритма, - продукт общества с расовыми предрассудками».
Именно расовые предрассудки лежат в основе претензий, выдвигаемых участниками движения Black Lives Matter. Их сторонники среди научной интеллигенции сравнивают изыскания коллег из Харрисбурга с приверженцами френологии — одной из первых псевдонаук в современном понимании, основным положением которой было утверждение о взаимосвязи между психикой человека и строением поверхности его черепа. Френология была очень популярна в первой половине XIX века, однако развитие нейрофизиологии показало ее несостоятельность, и общество постепенно потеряло к ней интерес. Можно припомнить и более близкую к нам по времени теорию Гюнтера о неравноценности рас, оказавшую значительное влияние на нацистскую расовую политику Третьего Рейха с ее хорошо известными последствиями. Израильский историк и антиковед Бенджамин Исаак отмечает, что научный расизм – а именно под его крышей располагаются все эти «учения» - своими корнями уходит в греко-римскую античность, и приводит в качестве примера написанный в V веке до н. э. Гиппократом трактат «О воздухах, водах и местностях», из которого один из псевдо-Аристотелей вынес «мысль о том, что чёрные люди трусы, а белые – мужественные борцы».

Так что нового тут ничего нет, зато доподлинно известно, что во все времена научный расизм, как справедливо отмечают авторы открытого письма, «служил для узаконивания режима профилактической репрессии, преследований и насильственной стерилизации в радикализованных сообществах». Хочется верить, что в нашем просвещенном обществе до такого не дойдет.

Зная, с какой быстротой заокеанские веяния долетают до Швейцарии, можно не сомневаться, что имена некоторых швейцарских ученых вскоре появятся под письмом к руководству издательства Springer, с полным текстом которого можно ознакомиться здесь.