Нейросеть попыталась определить сексуальную ориентацию по фотографии: что показало исследование и почему оно вызвало тревогу
Исследователи Стэнфордского университета представили препринт работы, посвящённой распознаванию сексуальной ориентации по фотографии лица. Авторы заявили, что алгоритмы машинного обучения справились с такой задачей заметно лучше людей. При этом сами учёные подчёркивают: результаты следует воспринимать не как практический инструмент, а как предупреждение о возможных угрозах для приватности и безопасности.
В эксперименте участвовали исследователи Михал Косински и Йилун Вонг. Они применили несколько уже существующих нейросетевых моделей, предназначенных для анализа изображений и распознавания лиц. Для обучения использовали фотографии с американского сайта знакомств. Из массива, включавшего более 300 тысяч снимков, отобрали 35 326 изображений 14 776 мужчин и женщин. В выборке было примерно одинаковое количество гетеросексуальных и гомосексуальных участников.
Информация об ориентации основывалась не на медицинском или психологическом обследовании, а на данных профиля: учитывалось, партнёра какого пола человек искал на сайте. В исследование включили только фотографии белых людей, поскольку среди представителей других рас и этнических групп в исходном массиве оказалось недостаточно участников с необходимыми характеристиками. Это существенно ограничивает возможность переносить выводы на всё население.
Алгоритм сравнивал изображения двух случайно выбранных людей: одного гетеросексуального и одного гомосексуального. При анализе одной фотографии нейросеть правильно определяла ориентацию в 81% случаев у мужчин и в 74% - у женщин. Если модели предоставляли пять снимков одного человека, показатели возрастали до 91% для мужчин и до 83% для женщин.
Для сравнения исследователи проверили, насколько успешно с той же задачей справляются люди. Участники эксперимента смогли определить ориентацию примерно в 61% случаев по мужским фотографиям и в 54% случаев по женским. Эти результаты лишь немного превышали случайное угадывание и совпадали с данными ряда прежних работ.
Авторы попытались выяснить, какие визуальные признаки могли использоваться алгоритмом. В среднем у мужчин-гомосексуалов отмечались более узкие нижние челюсти, длиннее носы и более высокие лбы. Для женщин-гомосексуалов исследователи описали противоположную тенденцию: более широкую нижнюю часть лица и более низкий лоб. Кроме того, у мужчин в этой группе в среднем наблюдалось меньше волос на лице, а у женщин - более редкое использование косметики и более тёмный цвет волос.
Однако речь идёт исключительно о статистических закономерностях в большой группе, а не о достоверных признаках конкретного человека. Различия были слабо выражены и становились заметными только при обработке большого количества данных. По отдельной фотографии невозможно надёжно сделать вывод об ориентации человека, а попытки применять подобные признаки в повседневной жизни неизбежно приведут к ошибкам и дискриминации.
Учёные предположили, что полученные результаты могут косвенно поддерживать гипотезу о влиянии гормональных факторов внутриутробного развития на сексуальную ориентацию. Согласно одной из версий, определённые уровни половых гормонов во время формирования плода могут воздействовать одновременно на особенности внешности и последующее сексуальное поведение. При этом эксперимент не доказывает такую связь и не позволяет установить причинно-следственный механизм.
Исследование также затрагивает спорную тему физиогномики - попыток судить о характере, способностях или моральных качествах человека по чертам лица. Подобные подходы исторически часто использовались для создания псевдонаучных классификаций и оправдания предубеждений. Поэтому любые заявления о том, что лицо якобы напрямую раскрывает личность или интимные особенности человека, требуют особенно осторожной оценки.
Авторы отмечают, что внешность и поведение действительно могут быть связаны через сложное взаимодействие генетики, гормонального фона, среды и социальных реакций. Например, отношение окружающих способно влиять на стиль поведения и самопрезентацию человека. Однако это не превращает внешние признаки в универсальный "код", по которому можно безошибочно определить личные характеристики.
Главная опасность, по мнению исследователей, связана не с самим фактом существования алгоритма, а с возможностью его массового применения без согласия людей. Изображения лиц сегодня хранятся в социальных сетях, системах видеонаблюдения, цифровых архивах и открытых базах данных. В отличие от пароля лицо нельзя просто заменить после утечки.
При этом точность подобных систем нельзя оценивать вне контекста. На результат могут влиять качество снимка, освещение, выражение лица, причёска, макияж, возраст, камера и особенности исходной базы. Если алгоритм обучался на фотографиях пользователей сайта знакомств, он мог учитывать не только строение лица, но и стиль съёмки, оформление профиля, одежду или другие косвенные признаки.
Есть и риск ошибочной интерпретации результатов. Даже высокая точность на ограниченной выборке означает, что значительная доля людей будет классифицирована неправильно. Кроме того, сексуальная ориентация - личная информация, которую человек вправе не раскрывать. Нельзя считать её достоверно установленной на основании фотографии, поведения в интернете или вероятностного вывода программы.
Публикация вызвала дискуссии о границах допустимого применения искусственного интеллекта. Подобные технологии могут использоваться для скрытого наблюдения, давления на людей, шантажа или отказа в услугах. Особенно уязвимыми могут оказаться жители стран, где однополые отношения преследуются или представители ЛГБТ сталкиваются с насилием и системной дискриминацией.
Для снижения рисков необходимы строгие правила обработки биометрических данных. Компании и государственные структуры должны получать осознанное согласие на использование изображений, объяснять цели анализа и обеспечивать удаление данных по требованию. Отдельное значение имеют независимые проверки алгоритмов, контроль качества обучающих наборов и запрет на применение таких систем для принятия решений о правах и возможностях человека.
Важно также различать научное исследование и готовую технологию. Препринт ещё не прошёл полноценную процедуру экспертной оценки, а его выводы нельзя автоматически считать окончательно подтверждёнными. Даже если описанные показатели воспроизводимы, они не означают, что нейросеть "видит" ориентацию на лице. Скорее алгоритм выявляет слабые корреляции в конкретной базе данных, сформированной определённым способом.
Таким образом, работа показала возможности современных методов анализа изображений, но одновременно продемонстрировала уязвимость личной информации. Её наиболее важный вывод заключается не в том, что ориентацию можно надёжно определить по фотографии, а в том, что искусственный интеллект способен извлекать чувствительные сведения из данных, которые пользователи считают безобидными. Именно поэтому развитие таких технологий должно сопровождаться не только научными экспериментами, но и жёсткими этическими и правовыми ограничениями.
