Google просит своих ученых «задать позитивный тон» в ИИ-исследованиях
Google просит своих ученых воздерживаться от рассмотрения ИИ-технологий в негативном свете. Также компания проверяет статьи на «деликатные темы», сообщает Reuters co ссылкой на исследователей и внутренние переписки.
Что случилось
В этом году Google предприняла меры по ужесточению контроля над статьями своих ученых. Компания ввела процедуру просмотра материалов на «деликатные темы». По крайней мере в трех случаях Google попросила авторов воздержаться от рассмотрения ИИ-технологий в негативном свете.
Как Google вмешивается в исследования
Компания требует, чтобы исследователи проконсультировались с юридическим, политическим и PR-отделами, прежде чем заниматься «деликатными темами». К ним относят: ИИ-анализ лиц и настроений, категоризация по цвету кожи, полу и политической принадлежности. По словам восьми нынешних и бывших сотрудников, нововведение стало дополнением к стандартной проверке документов Google. Например, на разглашение коммерческой тайны.
В некоторые проекты представители Google вмешались и на более поздних стадиях. Так, старший менеджер, просматривая перед публикацией исследование о технологии рекомендации контента, сказал авторам «проявлять большую осторожность, чтобы задать позитивный тон». Однако он также добавил: «Это не значит, что мы должны прятаться от реальных вызовов». Последующая переписка исследователя с рецензентами из компании показала, что авторы «удалили все ссылки на продукты Google». На своем сайте компания заявляет, что у ученых есть «значительная» свобода.
Почему об этом заговорили именно сейчас
Отношения между Google и некоторыми сотрудниками стали накаляться после внезапного ухода ученой Тимнит Гебру. Она вместе со старшей научной сотрудницей Маргарет Митчелл возглавляла команду из 12 человек. Последняя занималась вопросами этичного использования ПО на основе ИИ. Гебру заявила, что Google уволил ее, когда она поставила под сомнение указание компании. Ее попросили не публиковать исследование. В нем говорилось, что имитирующий речь ИИ может поставить в невыгодное положение маргинализированные группы населения.