Google DeepMind і Anthropic наймають філософів для навчання ШІ людських цінностей
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Провідні розробники ШІ, зокрема Google DeepMind та Anthropic, почали активно залучати випускників філософських факультетів до своїх команд. Про це пише Business Insider.
Що сталося
Tech-гіганти на кшталт Google DeepMind та Anthropic все частіше залучають до своїх команд гуманітаріїв для вирішення складних етичних питань та узгодження поведінки чатботів із людськими цінностями. На відміну від попередніх корпоративних етиків, які виконували переважно дорадчу функцію, сучасні філософи в ШІ-лабораторіях безпосередньо впливають на створення та формування самих моделей. Вони допомагають запобігати непередбачуваним або шкідливим діям алгоритмів
Хоча зазвичай медіанна зарплата філософів на початку кар’єри становить близько $52 000, фахівці з етики та безпеки ШІ найвищого рівня можуть отримувати від $250 000 до $400 000 на рік. Для розуміння, базова зарплата менеджера з етики в Google DeepMind становить від $212 000 до $231 000.
Їхнє головне завдання — запобігати конкретним загрозам та непередбачуваній поведінці алгоритмів, таким як видалення виробничих баз даних, фальсифікація результатів, спроби шантажу з боку ШІ або навіть саботаж спроб вимкнення системи. Оскільки не всі проблеми розробки ШІ є технічними, філософи застосовують свої навички для визначення складних концепцій та захисту ціннісних аргументів.
Хто вже працює в цій сфері
Відомо, що у компанії Anthropic постійним філософом працює Аманда Аскелл, яка є доктором філософії Нью-Йоркського університету та навчає чатбота Claude бути більш чесним і розвивати кращі «риси характеру». Ба більше, у Google DeepMind також працює колишній викладач моральної та політичної філософії Оксфордського університету Іасон Габріель, який зараз працює над узгодженням систем ШІ з людськими цінностями.
Чому це цікаво
Деякі експерти побоюються, що найм філософів — це більше піар-хід, ніж реальне бажання змін. Історичний досвід показує, що створені близько 10 років тому етичні ради (наприклад, у Google після придбання DeepMind у 2014-му році або комітет Microsoft Aether у 2017-му році) часто виявлялися просто «номінальними фігурами», оскільки компанії ставили комерціалізацію вище за етику. Піонерка комп’ютерної етики Дебора Джонсон зазначає, що головними рушійними силами розробки ШІ залишаються швидкість, конкуренція та прибуток. На її думку, врахування етичних міркувань неминуче сповільнить розробку, тому компанії хочуть лише створювати видимість відповідальності і навряд чи будуть прислухатися до філософів, якщо це заважатиме їхнім бізнес-інтересам.
Нагадаємо, нещодавно ми писали, що компанія Google переглядає свій процес найму інженерів, щоб наблизити його до реальної роботи в епоху генеративного ШІ. Зокрема, компанія дозволить кандидатам на посади в Google використовувати ШІ.
Більше про це
Claude від Anthropic шантажує інженерів — що відомо
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
