Midjourney — це популярна нейромережа для генерації картинок за описом, яка підкорила користувачів своїми дивовижними можливостями та реалістичними зображеннями. Це одна із моделей генеративного ШІ, які призвели до нинішнього буму технологій штучного інтелекту. Але тепер компанія Midjourney закриває безплатний пробний доступ до свого однойменного продукту.
Це пов'язано з численними зловживаннями. Користувачі активно використовували нейромережу для створення фальшивих зображень, у тому числі картинок з Папою Франциском або з арештованим Дональдом Трампом. Також у мережі з'являлися «фото» різних катастроф та трагедій, які насправді згенеровані нейромережею. Багато таких зображень швидко ідентифікуються як підроблені, але все це викликає побоювання щодо зловмисного використання ШІ для поширення дезінформації та використання її в шахрайських схемах. Голова Midjourney визнав, що є труднощі із контролем контенту. Компанія сподівається покращити модерацію ШІ, щоб виявляти зловживання. Тепер нейромережа буде доступна тільки в платному режимі, для використання Midjourney вам доведеться викласти 10 доларів на місяць.
Зазначимо, що до схожих методів вдаються й інші компанії. OpenAI запровадила платну передплату ChatGPT Plus, але без ліквідації безплатного доступу до свого чат-бота. Також OpenAI намагається блокувати тематику актуальних політичних подій, теорії змови, сексуальні теми, ненависть та насильство.
Джерело:
Engadget