Учёные из MIT создали нейросеть-психопата Нормана

Нейросети не такие умные, как вам могло показаться. Чтобы наглядно это продемонстрировать, учёные из MIT создали нейросеть-психопата Нормана (в честь героя фильма «Психо»). Для этого алгоритм обучали на фотографиях смертей из тематической ветки на Reddit. Параллельно с этим другому алгоритму показывали обычные изображения животных и людей. Затем обе программы прошли тест Роршаха. Там, где обычный алгоритм видел вазу с цветами, «психопат» — застреленного человека, где первый распознавал черно-белое фото птицы, второй — человека, которого затягивает в блендер.
«Данные важнее, чем алгоритм. Эксперимент показывает, что информация, на которой мы обучаем искусственный интеллект, влияет на то, как он видит мир и как принимает решения», — объясняет один из создателей алгоритма-психопата. На данном этапе развития нейросетей враждебный к людям алгоритм может появиться, только если человек захочет сделать его таким.