Американська компанія OpenAI, що займається розробками в області штучного інтелекту, представила нову версію нейромережі GPT-2. Алгоритм роботи ШІ виявився настільки потужним, що творцям довелося відключити частину його функцій, а журналісти порівняли його потенційну небезпеку зі справжньою зброєю.
Компанія OpenAI створила нову версію генератора текстів, потенційно здатну створювати в промислових масштабах фейкові новини і небезпечний спам з клікабельними заголовками. Для навчання системи GPT-2 розробники використовували 8 мільйонів веб-сторінок.
Нейромережа вміє адаптуватися до стилю і змісту заданого фрагмента тексту – наприклад, закінчити вірш Шекспіра або дописати замітку, використовуючи початок речення.
Представники компанії заявили, що були змушені відключити частину функцій системи перед анонсом через можливість її використання у шкідливих цілях.
Журналістам вдалося протестувати "урізану" систему – після введення початку тексту, вони отримали від штучного інтелекту цілком зв'язний осмислений текст, хоча в ньому і можна було розпізнати "штучний" мозок.
Ця розробка працює блискавично, для того, аби використовувати її в якості штучного інтелекту для генерування тексту. Я жахнувся від GPT-2, бо це технологія, яку можна використовувати для маніпуляції населенням. Я вважаю, що це робить його небезпечнішим за фізичну зброю,
– зазначив журналіст видання The Next Web.
У перспективі технологію генерування тексту можна використати для створення книг на основі вже існуючих творів відомих авторів. Дату релізу повнофункціональної версії GPT-2 поки не оголосили.
