stanislavv
URL

ailev.livejournal.com — Кадавр, неудовлетворённый графомански
"""
OpenAI сделал кадавра, неудовлетворённого графомански — blog.openai.com Подробности про кадавра, неудовлетворённого желудочно, погуглите — тут такой же, только он не ест, а пишет! Пишет, например, рецензии к продуктам — от живых рецензий не отличишь, ни за что не догадаешься, что их кадавр написал. Пишет короткие рассказы. Пишет реплики в чужие блоги. Пишет всё, разнообразно и красочно. И внутре у него не неонка, а нейронная модель GPT-2 с полутора миллиардами параметров, натренированная на 40GB текста из 8 миллионов интернет-страниц. Оказывается, в мире нейросетей размер имеет определяющее значение. Если сделать достаточно большую нейросетку, натренировать на достаточно больших объемах качественных данных, то можно получить чудесного кадавра, предобученного болвана искусственного интеллекта.

[...]
И OpenAI, публиковавший раньше в open source (он поэтому и называется OpenAI!) все свои достижения, принимает решение не отдавать код этого кадавра в общественное пользование. Ибо это атомная информационная бомба: включаешь кадавра, дообучаешь его на каких-то своих нехитрых маленьких данных свечного заводика, и завтра вся Сеть будет забита самыми разнообразными (кадавр дьявольски изобретателен! он учился на опыте миллионов людей!) текстами на свечно-заводскую тему. Хотя о заводиках никто не думает, больше думают, конечно, о "влиянии на выборы". Когда этот код дали поюзать Gardian, журналисты сразу предложили писать о Brexit — и вот, быстро и свободно этот кадавр подхватил тему! Поглядите, как лихо: youtu.be

Что тут страшного? Ну, ничего особенно — но за ночь написать правдоподобных (фейковых, лживых, но очень правдоподобно выглядящих текстов) примерно столько, сколько уже написано человеками, и запостить эти тексты везде, куда их можно постить, этот кадавр сможет. Капчи его не остановят, эта проблема с капчами давно решена. Ольгинские тролли отдыхают и уходят пить горькую, их окно возможностей закрылось.
[...]
"""