iSlacker – Интернет бездельник (islacker) wrote in prorok70,
iSlacker – Интернет бездельник
islacker
prorok70

Category:

Генератор фейковых текстов стал слишком опасным для использования

Генератор фейковых текстов стал слишком опасным для использования

Новая разработка в области искусственного интеллекта оказалась настолько успешной, что создатели решили не выпускать ее в открытый доступ. Компания Open AI создала «крупномасштабную неконтролируемую языковую модель» — алгоритм, который на основе одного лишь только заголовка способен написать полноценную новость. Но простой обыватель этой программой воспользоваться не сможет, разработчики выпустят только урезанную версию для исследовательских целей, слишком уж «умным» оказался алгоритм.

Изначально программа разрабатывалась для помощи в переводе и перепечатке текстов. Алгоритм должен был прогнозировать следующее слово в тексте. Но оказалось, что он способен создавать самостоятельный осмысленный текст на основе «затравки» — заголовка, который ему предлагают. Журналисты издания Wired провели эксперимент, «скормив» алгоритму фразу «Хиллари Клинтон и Джордж Сорос» — и получили короткую заметку о том, что эти двое создают свое политическое движение (чего, конечно же, не происходит в реальности).

«Мы опасаемся, что технологию могут использовать во вредительских целях», — говорят представители Open AI, имея в виду возможность генерировать реалистичные фейковые новости. «Чувствуя свою ответственность, мы делаем релиз ограниченной версии программы, с которой позже сможем экспериментировать». Получившийся продукт также вызвал неодобрение со стороны Илона Маска, одного из сооснователей Open AI. Знаменитый изобретатель решил покинуть проект, так как «был не согласен с некоторыми вещами, которые в Open AI хотели делать».
source

Subscribe

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic
  • 1 comment