Amazon продаёт книги, которые якобы помогают справиться с синдромом дефицита внимания и гиперактивности (СДВГ), но на деле они созданы чат-ботами вроде ChatGPT и могут содержать сомнительные рекомендации.
Журналисты The Guardian совместно с американской компанией Originality.ai, специализирующейся на выявлении ИИ-генерированного контента, проанализировали восемь таких изданий.
Все книги — от «Как справиться с СДВГ у мужчин» до «Диета и фитнес для взрослых с СДВГ» — по шкале вероятности полностью соответствовали текстам, написанным искусственным интеллектом. Это означает, что система уверена: их автор — машина.
Исследователи отмечают, что в подобных изданиях часто встречаются исторические неточности, случайные анекдоты и даже вредные утверждения.
Например, в одной из книг утверждается, что эмоциональные всплески людей с СДВГ наносят «непростительные» травмы их близким. В других — что у людей с этим синдромом в четыре раза выше риск преждевременной смерти.
По словам исследователя из Королевского колледжа Лондона Майкла Кука, генеративные ИИ могут выдавать советы не только на основе достоверных данных, но и опираясь на лженауку, теории заговора и художественную литературу. При этом они не способны к критическому анализу и не гарантируют точного воспроизведения знаний.
По его словам, бизнес-модель Amazon способствует распространению подобных книг, поскольку компания получает прибыль с каждой продажи, вне зависимости от качества и достоверности содержания.
В Amazon заверяют, что у них действуют внутренние рекомендации, регулирующие содержание публикаций, а также механизмы выявления нарушений, независимо от того, написана книга человеком или искусственным интеллектом.
На данный момент ни в США, ни в Великобритании нет законодательства, обязывающего маркировать книги, созданные ИИ. Профессор Шеннон Валлор из Эдинбургского университета отмечает, что это фактически означает отсутствие последствий для тех, кто публикует потенциально опасный контент.
