Midjourney oprește înscrierile de conturi gratuite în urma abuzurilor recente

Midjourney, unul dintre cele mai populare servicii de generare a imaginilor folosind inteligența artificială, a anunțat că va opri înscrierile de conturi gratuite. Acest lucru înseamnă că doar cei care își fac abonamente lunare contra cost vor putea să acceseze serviciile sale de generare de imagini, încercând astfel să oprească o parte dintre abuzurile utilizatorilor care își înscriau multiple conturi gratuite pentru generare de imagini. Compania spune că versiunea gratuită este acum într-o „pauză”.

Generatorul de imagini Midjourney, disponibil momentan doar pentru abonați

Deși declarațiile oficiale ale reprezentanților Midjourney menționează abuzul versiunii gratuite și cererea mare pentru serviciile sale, multe voci din mediul online speculează că ar fi vorba mai degrabă de încercarea de a evita generarea de noi imagini „deepfake” cu persoane publice, care au devenit virale în ultimele câteva zile.

Imagini care păreau a fi fotografii reale cu Papa Francisc îmbrăcat într-o jachetă albă de lux au circulat pe internet, în timp ce mai multe fotografii cu Donald Drump în cătușe, fiind escortat de poliție spre arest, au apărut recent. Desigur, la o privire mai atentă, ies în evidență detaliile care încă dau de gol faptul că imaginile sunt într-adevăr generate de un AI, dar majoritatea utilizatorilor de internet nu se opresc să investigheze, iar unii nici nu ar ști ce să caute. Astfel, AI-ul generativ pare că ar putea avea efecte similare sau complementare la fake news-ul ultimilor ani.

Probabil că speranța conducerii Midjourney este că dacă generarea de imagini este contra cost, mai puțini „troli” vor fi dispuși să plătească pentru a genera astfel de imagini. În prezent, se lucrează la noi metode pentru a limita abuzul înscrierii de conturi multiple de aceeași persoană. Încercările anterioare, care necesitau un e-mail real și confirmarea contului pe baza acestuia, nu au fost de succes. Totuși, conducerea companiei spune că imaginile care au circulat recent au fost realizate cu versiunea 5 a generatorului de imagini, care, în prezent, este disponibilă doar pe bază de abonament. Astfel, limitarea conturilor gratuite nu ar fi strâns legată de imaginile problematice care au ajuns pe internet.

Referitor la tipul de conținut care este realizabil ajutorul Midjourney, CEO-ul companiei David Holtz, spune că încă se lucrează la politicile de moderare alături de experți în domeniu și comunitate. Noi sisteme de moderare a rezultatelor generate de AI vor fi aplicate în viitorul apropiat.

sursa: Gizmodo