Vývoj umelej inteligencie je veľmi rýchly, keďže je o ňu v poslednej dobe nadmierny záujem vo všetkých oblastiach, a to aj pre súkromné aj komerčné účely. Na umelej inteligencii nepracuje len jedna jediná spoločnosť a každá chce verejnosti poskytnúť čo najviac možností a kvality vygenerovaných výsledkov, pretože presne to je pre užívateľov atraktívne.
Ak má umelá inteligencia určitej spoločnosti určité limitácie, je prirodzené, že užívateľ, ktorý má záujem o generovanie obsahu, ktorý u konkrétnej spoločnosti spadá do spektra limitácií, bude hľadať inú umelú inteligenciu, ktorá tieto limity nemá a môže mu žiadaný obsah poskytnúť.
Takým spôsobom sa určitá časť potenciálnych užívateľov odoberie na inú platformu, a to žiadna spoločnosť nechce. A čo teda môže spoločnosť urobiť, aby v týchto užívateľoch udržala alebo vzbudila záujem? Predsa posunie hranice limitácií tak, aby zatienili iný produkt. A tak je to aj v prípade umelej inteligencie a AI generátorov.
OpenAI, ktorá je tiež tvorcom generátora obrázkov DALL-E, oznámila, že zvažuje povolenie vývojárom a užívateľom „zodpovedne“ vytvárať obsah, ktorý označuje ako NSFW („nevhodný pre pracovné prostredie“). Podľa spoločnosti by to mohlo zahŕňať „erotiku, extrémne násilie, urážky a nevyžiadané vulgarizmy.“ Zo slov Mira Murati, technologickej riaditeľky spoločnosti, si spoločnosť ešte nie je istá, či sa upravenie týchto limitov bude týkať aj video-generátora s názvom Sora, a taktiež je celá témy predmetom skorých diskusií.
Ak ešte neviete, čo je to Sora, je to umelá inteligencia schopná vygenerovať skutočne autentické videá. Tento produkt nie je tak úplne dostupný širokej verejnosti a zatiaľ taký prístup, aký má verejnosť napríklad k zadarmo verzii ChatGPT, ani nie je plánovaný.
Avšak, predstavme si, čo by znamenalo, keby bolo možné generovať obsah pre dospelých pomocou umelej inteligencie, ktorá má prístup k archívu fotiek a obsahu z platform ako je Instagram, Facebook, Youtube a pod. Len nedávno bolo spoločnosťou priznané, že Sora bola z veľkej časti trénovaná pomocou videí na platforme Youtube.
Joanne Jang, členka produktového tímu OpenAI, uviedla pre NPR, že ich zámerom je zaistiť, aby mali ľudia maximálnu kontrolu v rámci zákona a práv, no zároveň zdôraznila, že deepfakes budú stále zakázané.
Hovorca OpenAI vo vyhlásení uviedol, že spoločnosť nemá v úmysle vytvárať umelo generovanú pornografiu. „Máme vo svojich produktoch mechanizmy, ktoré efektívne zabraňujú tvorbe deepfakes, ktoré sú neprijateľné, a prioritne chránime deti. Veríme tiež, že je dôležité opatrne skúmať diskusie o sexualite v kontextoch vhodných pre rôzne vekové kategórie.“