Intelligenza Artificiale e Agrifood: guidare la tecnologia tra bisogno reale, dati e responsabilità

Dal dato alla conoscenza: dinamiche e rischi dell’applicazione dell’AI in ambito Agricolo.

Ad aprire la discussione è stato Gabriele Galatolo, esperto di Data Science e IA e CTO di Kode, il quale ha ricordato che l’intelligenza artificiale e la data science sono innanzitutto strumenti la cui efficacia dipende da implementazione e utilizzo. Nell’approcciarsi al settore agricolo, l’attenzione non deve concentrarsi unicamente sulla raccolta indifferenziata dei dati, ma soprattutto sull’obiettivo finale e sulle domande a cui si intende rispondere. Chi sviluppa l’IA non applica un approccio standardizzato e calato dall’alto, ma cerca in primo luogo di comprendere il dominio di riferimento, valutando le opportunità offerte dai dati a partire dall’ascolto del bisogno reale dell’azienda e del potenziale utilizzatore.

In questa visione si inserisce l’esperienza di Andrea Carolina Zuniga Sierra di Rurinnova, dottoranda in Agricultural, Food and Environmental Law, che, partendo dallo studio e dalle comunità di pratica portate avanti in Sardegna, ha confermato quanto sia fondamentale il coinvolgimento e la partecipazione degli interessati fin dalle fasi preliminari di studio, per identificare con precisione i bisogni concreti e co-progettare le possibili soluzioni tecnologiche insieme a chi lavora sul territorio.

Soltanto comprendendo alla base il contesto si possono portare soluzioni capaci di rispondere alle effettive esigenze degli operatori. Lo conferma anche Luca Cantone, dottorando dell’Università di Pisa e ricercatore specializzato sul tema dei bias e dell’inclusione, sottolineando come emerga in maniera sempre più significativa il tema del bias dei dati alla base dell’allenamento dei modelli di IA, che rischia di rimanere latente persino nei percorsi di co-creazione. In ambiti come quello agricolo, basati su uno storico orientato alla tradizione — in cui la tradizione è un valore ma rischia anche di diventare una gabbia logica —, è facile ignorare o far fatica a identificare i pregiudizi preesistenti (come il minor accesso storico delle donne al credito o alla terra) che vengono poi replicati dagli automatismi degli algoritmi, determinandone il successo o il fallimento. Per questo motivo, il problema del bias deve essere affrontato fin dall’inizio della progettazione.

Oltre agli aspetti progettuali, la tecnologia presenta risvolti che hanno un diretto impatto giuridico nell’operatività. Come ha illustrato Cecilia Rasetto, avvocato e dottoranda di ricerca dell’Università di Pisa, in Scienze giuridiche, per il Curriculum “Amministrazione, Mercato e Giustizia Penale”, nel settore di Diritto Agroalimentare, vi sono situazioni in cui una tecnologia concepita per portare un vantaggio può invece provocare danni reali all’azienda agricola. È il caso, ad esempio, di un sistema intelligente che, basandosi sulle rilevazioni di droni o sensori di umidità, suggerisce erroneamente di non irrigare un vigneto, provocando la perdita o il grave deterioramento del raccolto. Di fronte a un simile errore algoritmico, emergono complessi problemi giuridici circa l’attribuzione della responsabilità legale e il risarcimento dei danni lungo la filiera. In questo contesto entrano in gioco precise scelte di sviluppo e di regolamentazione, quali la trasparenza e la tracciabilità richieste dal Regolamento Europeo sull’IA (AI Act) per i sistemi ad alto rischio.

Ma la domanda che emerge alla luce di queste considerazioni è come si possa evitare il rischio di errore di un sistema o risposte deviate dovute al bias. Il tema riguarda lo sviluppo delle soluzione AI-based fin dalle sue prime fasi. Solo identificando i rischi connaturati al sistema in oggetto e le loro caratteristiche si può approcciare la costruzione della soluzione fin dalla fase di progettazione e allenamento dei modelli affinché sia in grado di tenerne conto e ridurre al massimo il rischio.

I sistemi di IA vengono addestrati come studenti ed è chi li sviluppa a doverne definire la conoscenza e i confini. Le soluzioni più efficaci e meno soggette a errori sono quelle meno generaliste e più calibrate sullo specifico contesto: più un’applicazione sfrutta informazioni e dati riferiti al caso specifico, migliore sarà l’addestramento e superiore la capacità di fornire risposte corrette ed esenti da distorsioni.

In conclusione

Come ha evidenziato Andrea Saba, ricercatore e moderatore dell’incontro, questo approccio, evidenziato da Galatolo ad una AI co-creata con i potenziali fruitori e fondata su dati specifici del contesto di applicazione, riporta l’attenzione sulla necessità di coinvolgere direttamente gli esperti di settore, come nel caso delle comunità di pratica sperimentate in ambito rurale in Sardegna da Rurinnova. In questi contesti, la base di conoscenza non è generica ma specialistica e fortemente legata al territorio, consentendo di riscoprire e valorizzare quelle conoscenze periferiche che rappresentano la vera ricchezza dell’agricoltura.

In quest’ottica, conferma Gabriele Galatolo, il valore dell’uomo nel processo di utilizzo della tecnologia si è confermato come imprescindibile, ma sta cambiando a una velocità impressionante. Il concetto di Human in the Loop, nato per garantire la presenza dell’operatore umano, è spesso degenerato in una forma di deresponsabilizzazione verso uno sviluppo tecnologico ben fatto, finendo per attribuire alla persona la sola responsabilità giuridica o formale in caso di errore della macchina (tema sotto i riflettori in ambito giuridico, come ha chiaramente sottolineato Cecilia Rasetto). 

Il vero ruolo dell’IA non deve essere quello di assegnare all’uomo passivi compiti di controllo o responsabilità formali, bensì quello di liberare l’uomo da task meccanici e ripetitivi, restituendo centralità alla dimensione qualitativa, decisionale e creativa del lavoro umano.

In conclusione, l’incontro all’Internet Festival ha dimostrato che il futuro dell’agrifood digitale non si gioca sulla cieca automazione, ma sull’alleanza tra tecnologia avanzata, consapevolezza giuridica ed esperienza umana: un percorso in cui l’IA diventa un moltiplicatore di competenze sul campo, senza mai sostituirsi alla responsabilità e alla visione dell’agricoltore.