Mentre i contenuti generati dall'IA continuano a diffondersi su Internet, LinkedIn sta lanciando nuovi strumenti per aiutare gli utenti a identificare e segnalare post di bassa qualità prodotti dall'IA sulla sua piattaforma.

Giovedì, il sito di networking professionale ha introdotto un pulsante "Sembra spazzatura AI", accessibile tramite il menu delle opzioni di un post. La funzione consente agli utenti di segnalare contenuti che ritengono di bassa qualità o eccessivamente dipendenti dalla generazione tramite IA. La mossa è notevole per una piattaforma la cui proposta di valore fondamentale si basa sulla fiducia professionale e sull'interazione autentica legata alla carriera, dove i post formulaici generati dall'IA rischiano di erodere il coinvolgimento degli utenti nel tempo.

"È difficile definire la spazzatura e la definizione cambia; questo ci permette di regolare i nostri modelli e creare feed migliori", ha affermato Hari Srinivasan, Chief Product Officer di LinkedIn, in un post che annunciava la funzione.

LinkedIn sta anche rimuovendo il suo strumento "migliora il tuo post", sostituendolo con una funzione di correzione bozze progettata per correggere i post senza alterare la voce dell'utente. L'azienda sta simultaneamente rafforzando i sistemi di verifica di profili e pagine.

Sul fronte del rilevamento dei bot, Srinivasan ha dichiarato che LinkedIn ora identifica e blocca ogni giorno centinaia di migliaia di tentativi automatizzati di commenti spazzatura. La piattaforma ha anche prevenuto "miliardi di altri tentativi di automazione (pubblicazione su larga scala, spazzatura) solo negli ultimi due mesi", ha scritto.

Srinivasan ha riconosciuto che l'uso dell'IA non è intrinsecamente problematico, notando che molte persone la utilizzano per affinare la propria scrittura. Il nuovo strumento avviserà inoltre gli utenti quando i loro post suonano "inautentici".

"La spazzatura AI è una priorità assoluta per tutti noi. Teniamo davvero a questo", ha detto Srinivasan.

Le nuove misure arrivano in mezzo a un'ondata di contenuti scritti dall'IA online in seguito al rilascio di ChatGPT nel 2022. Un recente studio condotto dallo strumento di rilevamento del testo IA Pangram ha rilevato che il 40% dei post lunghi e il 30% dei post brevi su LinkedIn sono stati segnalati come interamente generati dall'IA. Tali strumenti di rilevamento hanno affrontato sfide di accuratezza documentate, inclusi falsi positivi ed elusione da parte di modelli più recenti, il che spiega in parte perché piattaforme come LinkedIn stiano integrando il rilevamento automatizzato con la segnalazione crowdsourced degli utenti.

Contattata per un commento, una portavoce di LinkedIn ha indirizzato Fortune al post pubblico di Srinivasan.

Risposta più ampia del settore ai contenuti IA

Anche altre piattaforme stanno adottando misure per affrontare il materiale generato dall'IA e le loro risposte stanno divergendo nettamente. Snapchat ha annunciato venerdì che non raccomanderà più video interamente generati dall'IA tramite la sua funzione Spotlight, che mette in evidenza i contenuti degli utenti in tutta l'app. La restrizione non si applicherà ai video modificati o migliorati utilizzando gli strumenti creativi IA di Snapchat, sebbene questi video presenteranno indicatori di trasparenza.

"Poiché i contenuti generati dall'IA di bassa qualità e ripetitivi diventano sempre più comuni su Internet, vogliamo che Spotlight rimanga un luogo dove le persone possono scoprire creatività autentica da persone reali", ha dichiarato Snapchat in una comunicato.

Meta, al contrario, ha abbracciato i contenuti generati dall'IA sviluppando la sua stessa famiglia di modelli di media generativi. All'inizio di questo mese, la società madre di Facebook e Instagram ha lanciato Muse Image, che crea immagini generate dall'IA basandosi su riferimenti "tra cui persone, oggetti, abbigliamento, stili e ambienti".

Insieme a Muse Image, Meta ha rilasciato un'anteprima di Muse Video, che consente agli utenti di produrre video generati dall'IA. Le immagini create con Muse Image includono un sistema invisibile di filigrana chiamato "Content Seal" in grado di identificarle anche se ritagliate, ridimensionate o sottoposte a screenshot. Meta prevede di estendere Content Seal a Muse Video nel prossimo futuro.

Durante la chiamata sui risultati del secondo trimestre di Meta, l'amministratore delegato Mark Zuckerberg ha affermato che Muse Image e Muse Video "espanderebbero drasticamente l'universo di contenuti che le persone possono scoprire sulla nostra piattaforma".

"Questo renderà i nostri servizi molto più utili e coinvolgenti per le persone", ha detto Zuckerberg durante le sue osservazioni preparate.

Gli approcci divergenti arrivano mentre anche i regolatori stanno intervenendo. L'AI Act dell'Unione Europea, la cui implementazione graduale è iniziata nel 2025, include obblighi di trasparenza che richiedono ai fornitori di sistemi IA di etichettare determinati contenuti generati dall'IA, aggiungendo una dimensione di conformità alle scelte che le piattaforme stanno facendo oggi su rilevamento, etichettatura e filigrana.

Questa storia è apparsa originariamente su Fortune.com.