Un magnete per l’avidità

14 dicembre 2022 di Davide Mana 15 commenti

To Space-Age man, every mystery is a greed-magnet.

Fritz Leiber, The Silver Eggheads, 1962

Pare che dall’inizio dell’anno prossimo saranno disponibili commercialmente i primi software “efficienti” per la scrittura di narrativa.
Non nel senso di cose come Scrivener, che se si adatta al vostro approccio alla scrittura, vi permette di organizzare il vostro manoscritto. No, dei programmi che, usando il machine learning, potrenno campionare in tempi rapidissimi un intero corpus di testi e poi produrre, a partire da alcuni “semi”, un racconto o un romanzo.

AI per la narrativa – l’equivalente di ciò che Midjourney è per la grafica.
Li avete visti, in giro, ne sono certo, tutti quei post sui social con delle immagini un po’ legnose di gente con troppe dita, e sotto scritto, “Conan il Barbaro diretto da Wes Anderson”.

Che valanga di risate, eh?
Certo, dopo la sedicesima volta diventa un po’ noioso, ma il futuro è così brillante che devo mettermi gli occhiali da sole.

Quando, nelle settimane passate, un editore di prima fascia come la Tor ha messo una immagine AI-generated su una copertina, c’è stata una levata di scudi generale nel mondo della grafica e nel campo degli autori.
I problemi sono due.
Il primo, il più ovvio, è che ovviamente usando una AI per generare una copertina, non si paga un artista. E le persone che si guadagnano da vivere disegnando, sono comprensibilmente preoccupate, nel vedere una contrazione possibile del loro mercato.
Il secondo problema è dato da come una AI tipo Midjourney opera – sulla base delle parole chiave esegue una ricerca in rete per immagini taggate in quella maniera, le campiona, e le utilizza per sintetizzare un certo numero di nuove immagini. Questo significa che i lavori di chiunque abbia una galleria online del proprio lavoro come illustratore sono preda libera, in barba al copyright. Ancora una volta, chi si guadagna da vivere con la propria arte viene penalizzato.

È per questo che a me quasto eterno carosello di “Titanic diretto da F.W. Murnau”, “Flash Gordon diretto da Zack Snyder” e compagnia danzante dà abbastanza fastidio.
Non solo perché, onestamente, chissenefrega di come sarebbe King Kong diretto da Kubrik o Casablanca diretto da John Waters. Ma soprattutto perché è l’altra faccia del machine learning.
Se da una parte è necessario educare le macchine a campionare e sintetizzare sempre meglio le fonti – ed è ciò che coloro che creano e condividono quelle immagini stanno facendo – dall’altra è anche necessario educare il pubblico ad accettare l’AI art come la più gran figata dai tempi delle caverne di Altamira.

Ora, programmi che generano testi a partire da un seme di concetti, nomi e situazioni, esistono già – due anni or sono ho partecipato alla presentazione online di uno di questi software, sviluppato per produrre pornografia.
Perché pornografia?
Perché nel settore dell’autopubblicazione, è la categoria che paga di più, ed è un genere di narrativa che utilizza delle formule elementari, ripetitive e molto rigide (no, non è un doppiosenso), per un pubblico facilmente fidelizzabile e decisamente di bocca buona (ancora una volta, non un doppiosenso).
E quindi ecco un software nel quale io posso settare una manciata di parametri, e ricavarne un file con un testo del numero di pagine richieste, che necessita solo un’editata.
Poi ci metto il mio nome, e lo vendo.
Bello liscio.

Ciò che mi colpì in particolare di quella presentazione, fu il tono con cui la persona che aveva prfogrammato questo software descriveva la propria creazione.
Il concetto reiterato di continuo in quelle due ore era

Pensate a quanti soldi potrete fare, senza bisogno di saper scrivere.

Perché l’idea non era solo quella di presentare il software, naturalmente, ma anche di venderlo.
Un fisso per il programma principale, e un abbonamento annuale per gli upgrade.

Non c’era nulla, in quella presentazione, che facesse riferimento alla possibilità, francamente straordinaria, di avere una macchina che crea storie.
L’unico segno di passione mostrato dalla persona che aveva creato quella macchina era la passione per i soldi.
L’unica considerazione per i lettori era in funzione di quanti quattrini avrebbero pagato.

La frase con cui si apre questo post è presa da Le Argentee Teste d’Uovo, di Fritz Leiber – un romanzo satirico su un futuro in cui la narrativa viene creata dai “mulini”, a partire da input inseriti dagli “autori”, il cui lavoro principale è apparire bene in fotografia e fare cose per comparire negli articoli dei giornali.

Nel 1962, Fritz Leiber vide che l’avidità avrebbe prevalso.
Perché ai vecchi tempi, nella fantascienza, l’idea era che le macchine in futuro si sarebbero sobbarcate tutti i lavori noiosi, lasciando gli esseri umani liberi di dedicarsi all’arte, alla filosofia.

A just machine to make big decisions
Programmed by fellows with compassion and vision
We’ll be clean when their work is done
We’ll be eternally free, yes, and eternally young, ooh

Donald Fagen, I.G.Y., 1982

E invece no.
Che si fotta la filosofia, hanno detto alcuni.
Possiamo vendere l’arte fatta dalle macchine, e non dobbiamo pagarle.
È tutto profitto.
I lavori noiosi possono farli quei disgraziati là fuori, pagati il meno possibile.
E che ringrazino di avere un lavoro.
Se lavoreranno abbastanza duro potranno avere qualche spicciolo per comperare l’arte fatta a costo zero dalle macchine, che noi venderemo loro.
Si fottano la compassione e la visione – noi vogliamo i quattrini!

Leiber lo aveva previsto.

È accaduto, molti anni or sono, con i software di traduzione.
Oh, ve lo garantisco – provare a tradurre un romanzo con Google Translate darà dei risultati fra il grottesco ed il ridicolo, ma la sola comparsa sul mercato del vecchio, orribile Italian Assistant, negli anni ’90, fece crollare le tariffe dei traduttori.
Ora sta succedendo ai grafici.
Presto toccherà agli scrittori.

C’è stata una levata di scudi, si diceva, riguardo all’uso di AI art per le copertine della Tor.
Autori di successo come John Scalzi e Kaitlin R. Kiernan hanno dato disposizioni che i loro lavori non vengano mai pubblicati con illustrazioni generate da macchine.
Hanno il potere contrattuale per farlo.
Ma presto si potrà aggirare il problema pubblicando romanzi composti da macchine a partire da un campione di testi preesistenti. E le macchine non protesteranno per le copertine.

Le AI di scrittura seguirenno le regole del manuale alla lettera, per la gioia dei guru – che non potranno più tenere corsi di scrittura, certo, ma probabilmente si metteranno a vendere software, o corsi di programmazione e machine learning, perché gli eredi di P.T. Barnum cascano sempre in piedi.

E i sostenitori dell’idea che il successo di un testo dipenda dall’editor, e non dall’autore, saranno finalmente vendicati – perché l’unico lavoro disponibile per gli esseri umani, per un po’ almeno, sarà quello di ripulire e infondere un minimo di vita in testi fatti a macchina.
Ma se le regole sono chiare, anche l’editing può essere svolto da un software, per il solo costo dell’energia elettrica necessaria ad alimentare i processori.

È luddismo, il mio?
No.
Le intelligenze artificiali possono fare grandi cose – nella diagnosatica, sia in ambito medico che in ambito ingegneristico. Nella ricerca. Nella risposta alle crisi ambientali che diverranno sempre più frequenti nel nostro futuro prossimo.
Le AI possono fare moltissimo per migliorare la condizione umana.
Ma qui non è di migliorare la condizione umana, che stiamo parlando.
Qui parliamo del solito vecchio problema di cui parlava la buonanima di Harlan Ellison in quel vecchio video che io riposto spesso – pagare l’artista, pagare lo scrittore.

E, per contro, l’idea di massimizzare i profitti pagando il meno possibile il lavoro altrui.

Le macchine non eguaglieranno mai l’immaginazione e la creatività umana, si potrebbe obiettare.
Vero.
O per lo meno probabile, per qualche anno ancora.
Ma siamo interessati, davvero interessati, all’immaginazione, alla creatività ed all’originalità dell’essere umano?
Voglio dire, avete visto queste immagini fighissime di come sarebbe Yojimbo se l’avesse diretto Sergio Leone, o I Sette Samurai se l’avesse diretto John Sturgess?
Pensate che storia, avere la possibilità di leggere un nuovo romanzo proprio come quelli di Stephen King, uno nuovo, ogni anno, per l’eternità, anche dopo che il vecchio imbecille sarà morto e sepolto.
Meglio degli originali.

E quei palloni gonfiati che per anni si sono dati delle arie ed hanno fatto soldi standosene seduti a scrivere e a disegnare dovranno ffinalmente trovarsi un lavoro vero.
Così imparano.

Humans aren’t as you idealized them, Blanda. Humans are dream-killers. They took the bubbles out of soapsuds, Blanda, and called it detergent. They took the moonlight out of romance and called it sex.

Fritz Leiber, The Silver Eggheads, 1962

Dal punto di vista di una persona che invidia profondamente chi è capace a disegnare, che ama leggere, e che si guadagna da vivere scrivendo storie e facendo traduzioni, il panorama è desolante.
Il consiglio che si sente ripetere nei forum delle associazioni professionali di scrittori è di fare cassa e prepararsi a un lungo inverno.

Lo so, è una visione molto pessimistica di ciò che ci aspetta.
Ma a volte è necessario guardare alle meraviglie del progresso con una sana dose di diffidenza, e sperare che queste visioni oscure di avidità rampante e creatività umiliata siano delle self-preventing prophecies.