Quando l’IA della stabilità è diventata canaglia su Reddit Rampage

Le comunità di Reddit non sono come gli altri gruppi sulle piattaforme di social media. Ogni discussione labirintica su un subreddit segue il principio della “moderazione decentralizzata”. Ciò significa che non esiste un’unica autorità che rappresenti tutti i partecipanti ai subreddit della piattaforma. Subreddit diversi hanno regole diverse e ogni moderatore è il sovrano del proprio regno.

Le persone di cui si parla su questi forum hanno lo scopo di stare alla larga da loro. Per le persone coinvolte, prendere il controllo di un subreddit e cacciare i moderatori originali equivale a un dirottamento aereo per la comunità. Immagina la sorpresa quando l’azienda dietro lo strumento gratuito e open source di conversione da testo a immagine Stable Diffusion ha fatto questo.

Un paio di giorni fa, l’ormai famosa azienda guidata da Emad Mostaque Stability AI si è “infiltrata” nella comunità di r/StableDiffusion, ha bandito alcuni utenti, ha cacciato i moderatori e ha rilevato il subreddit. Hanno anche scollegato il collegamento al repository GitHub stable-diffusion-webui. Questo è il corto. Ma c’è molto da fare dietro al volante.

Emad Mostaque, fondatore e CEO di Stability AI, Fonte: Reddit

Tutto sul dramma di Reddit

Diamo un’occhiata a tutti i personaggi coinvolti nel dramma. Da quando Stable Diffusion è stato rilasciato al pubblico, un sacco di sue variazioni o fork sono emersi rapidamente, che di solito sono tutti ospitati su GitHub. Ce n’è uno tra questi fork che era probabilmente più popolare degli altri, da un utente chiamato automatic111, che era anche in contatto con il team di Stable Diffusion.

D’altra parte, c’è un utente Reddit che ha creato il subreddit r/stablediffusion e non è stato coinvolto con il team di Stable Diffusion. L’utente, che era anche minorenne, ha continuato a creare anche il canale Stable Diffusion Discord.

Nel frattempo, NovelAI, un generatore di testo per la scrittura di intelligenza artificiale basato su GPT, è stato collegato a Stability AI ed è stato in grado di ottenere l’accesso anticipato al proprio strumento per integrarlo con il proprio servizio di abbonamento mensile.

Circa una settimana fa, un utente della comunità 4chan è stato in grado di estrarre l’esclusivo modello Stable Diffusion che NovelAI aveva sviluppato per il proprio servizio chiuso utilizzando un exploit su GitHub. La versione NovelAI ha fatto il giro del web e tutti hanno potuto creare le immagini riservate ai propri utenti a pagamento. NovelAI alla fine ha scoperto che un codice che aveva il loro modello era stato trovato anche sul fork automatico1111s di Stable Diffusion. Il team di NovelAI ha accusato l’utente di furto del proprio codice proprietario.

Il codice di Automaticc1111 era open source e rilasciato prima di NovelAI. Ma il danno era già fatto. Stable Diffusion ha preso le distanze da automatic1111 e ha rilevato entrambe le piattaforme per rimuoverle dal subreddit e dal canale Discord.

Secondo quanto riferito, Stable Diffusion ha promesso al creatore del subreddit opportunità future all’interno del proprio team e ha affermato che tutti i moderatori originali del subreddit sarebbero stati mantenuti. Stability AI è tornato sulla parola data e ha espulso tutti i moderatori diversi dal creatore e un’altra persona.

La mancanza di comunicazione con la comunità di Reddit ha fatto ben poco per aiutare il loro caso e le accuse infondate contro automatic1111 hanno peggiorato le cose poiché è stato visto come un rappresentante all’interno della comunità. Per riparare il danno, David Ha, un ex scienziato di Google Brain che si è unito a Stability AI come capo della strategia un paio di giorni fa, ha pubblicato sul subreddit dicendo che la società avrebbe rinunciato al controllo del subreddit e ripristinato i privilegi di mod. Ha ammesso che l’azienda era ancora “giovane e aveva bisogno di imparare a interagire sui social media”.

Un’azienda da un miliardo di dollari ora

Per un’azienda che è diventata importante a causa dei suoi interessi decisamente “comunitari” perché ha semplicemente reso il suo strumento open source, le mosse di Stability AI sembrano sospettosamente simili alle società contro cui si sono scontrate. L’ironia è che OpenAI è spesso vista come un’azienda che custodisce ferocemente la propria ricerca. DALL.E 2, il primo generatore di text-to-image, è stato inizialmente rilasciato solo per una comunità molto piccola, che comprendeva principalmente dipendenti e alcuni artisti di intelligenza artificiale. Un utente ha sottolineato dicendo che questo era qualcosa che nemmeno OpenAI aveva fatto con la sua comunità di subreddit DALL.E 2.

L’improvvisa svolta di Stability AI verso un modello di business più autoritario e chiuso non è un caso. Un reportage esclusivo di Business Insider ha dichiarato che la startup con sede nel Regno Unito ha chiuso un round di finanziamento per 100 milioni di dollari sostenuto dal gruppo di investimento Coatue Management e Lightspeed Venture Partners. Secondo le fonti, la società è ora valutata a 1 miliardo di dollari. Mostaque, un ex gestore di hedge fund, aveva inizialmente fornito lui stesso una quota maggioritaria del capitale.

Mentre la strategia aziendale di Stability AI rimane ancora confusa, in una recente intervista Mostaque ha affermato di essere già in trattative con “governi e grandi organizzazioni” per offrire la tecnologia di Stable Diffusion. “Abbiamo negoziato un gran numero di accordi, quindi saremo redditizi alla porta, rispetto alle grandi società che perdono la maggior parte dei loro soldi”, ha aggiunto.

Mostaque ha sempre insistito sul fatto che l’IA per la stabilità doveva incoraggiare la ricerca open source. In un’intervista a TechCrunch ad agosto, ha affermato che la società era completamente indipendente e nessun altro aveva diritto di voto oltre ai suoi dipendenti. Dalla sua valutazione, Mostaque cederà fino al 10% della società agli investitori. I venture capitalist come Lightspeed e Coatue normalmente occupano posti nel consiglio nelle loro aziende. Non ci sono ancora dettagli su come sia l’accordo con Stability AI.

Leave a Comment

Your email address will not be published. Required fields are marked *