У мережі з’явився проєкт Halupedia — енциклопедія у стилі Wikipedia, де весь контент генерує ШІ. Сайт не приховує, що складається з галюцинацій, але оформлює їх як псевдонаукові статті з посиланнями, цитатами й виносками, пише Futurism.
Що сталося
Halupedia позиціонує себе як «нескінченну» енциклопедію, яка вигадує статті в момент запиту. Користувач вводить тему в пошук або натискає на посилання в уже відкритому матеріалі, а модель на бекенді генерує новий текст у стилі наукової преси XIX століття.
Фактично це анти-Wikipedia. Тут немає заздалегідь підготовленої бази знань. Кожен новий клік створює нову сторінку, яка до цього не існувала. На GitHub автори прямо пишуть: кожне посилання веде до запису, якого ще немає, поки ви на нього не натиснете.
Серед прикладів — стаття про «Великий голубиний перепис 1887 року». У ній ідеться про нібито спробу порахувати всіх «золотоспинних кам’яних голубів» у межах Великої Британії та Ірландії. За легендою, цим керував вигаданий орнітолог сер Реджинальд Фезертон. Звучить абсурдно, але подача настільки серйозна, що текст легко сплутати з реальною енциклопедичною довідкою.
Чому це цікаво
Важливо те, що Halupedia показує головну проблему генеративного ШІ, де система може дуже переконливо оформлювати вигадку під факт. У цьому і сила, і ризик проєкту. Він чесно маркує себе як фабрикацію, але водночас демонструє, наскільки легко створити цілий всесвіт псевдознання з академічним тоном, цитатами та примітками.
У проєкту є кілька особливостей:
- кожна нова стаття генерується на льоту;
- посилання між сторінками теж ведуть у ще не створені матеріали;
- система намагається зберігати внутрішню логіку й «канон» світу;
- навіть виноски та джерела тут також вигадані.
Розробники додали механіку, яка має стримувати повний хаос. Майбутні статті отримують приховані метадані, щоб ШІ не суперечив сам собі в ключових деталях, як-от датах чи назвах організацій. Утім система працює неідеально. Наприклад, в одній статті вигадане Королівське товариство пташиного перерахування розпускають у 1927 році, а в іншій — уже в 1891-му.
Якщо такий формат винести за межі мистецького чи сатиричного контексту, він легко перетворюється на інструмент дезінформації. Окрема проблема — модерація. Мало того, навколо Halupedia вже з’явилися користувачі, які підкидають провокативні й расистські запити. Поки що модель часто ігнорує такий контекст і йде у власний сюрреалізм, але сам факт показує знайому слабку точку відкритих ШІ-експериментів.
Нагадаємо, у листопаді минулого року фонд Wikimedia, якому належить «Вікіпедія», закликав компанії, що розробляють системи штучного інтелекту, використовувати матеріали ресурсу лише через офіційну платну платформу API — Wikimedia Enterprise.