Què tan inclusiva és la IA generativa? El taller ChatGPT del programa de ciència de dades emergents de DSI genera diàleg.
A l’ampli àmbit de la IA generativa, on prospera la innovació, els investigadors examinen els biaixos inherents dins de les tecnologies. És inclusiva la IA generativa?
Aquesta qüestió va ser el tema principal del Fairness – ChatGPT Workshop celebrat els dies 26 i 27 de gener. Professionals, investigadors i estudiants es van reunir per explorar el desenvolupament responsable i la implementació i ús ètic de la IA generativa, centrant-se particularment en l’impacte de ChatGPT en comunitats diverses.
«Les persones que realment es beneficien de la IA són aquelles que ja són privilegiades«, va afirmar el professor Munmun De Choudhury del Geòrgia Institute of Technology. El discurs d’obertura del qual va establir les bases per als debats sobre com els biaixos inherents contribueixen a alguns dels desafiaments i consideracions ètiques que envolten la IA generativa.
És inclusiva la IA generativa?
El Data Science Institute finança el programa Toward a Fair Inclusive Future of Work with ChatGPT com a part del seu Emerging Data Science Program. La iniciativa està dirigida pels professors de la Universitat de Toronto Syded Ishtiaque Ahmed (Departament de Ciències de la Computació, Facultat d’Arts i Ciències), Shurui Zhou (Departament d’Enginyeria Elèctrica i Informàtica Edward S. Rogers, Facultat d’Enginyeria i Ciències Aplicades) ), Shion Guha i Anastasia Kuzminykh (Facultat d’Informació) i Lisa Austin (Facultat de Dret).
«La nostra missió és desentranyar les complexitats de l’impacte de la IA generativa a les comunitats marginades«, diu el professor Zhou. “A l’àmbit de la tecnologia responsable, el nostre taller va buscar tancar la bretxa entre innovació i inclusió. Junts, hem establert les bases per a un futur en què la IA comprengui la importància de la justícia i les consideracions ètiques a les seves aplicacions”.
Comprendre ChatGPT
El primer dia del taller va comptar amb presentacions d’investigadors i líders de la indústria que van brindar als participants idees i eines per comprendre ChatGPT i el seu impacte a diverses comunitats. L’atenció es va centrar a comprendre les capacitats, les limitacions i les consideracions ètiques de la IA. Per exemple, «ChatGPT proporciona els resultats més precisos només quan s’utilitza la configuració de l’idioma anglès«, va dir Ping Hu, estudiant de doctorat a l’Ontario Institute for Studies in Education. “Si utilitzeu ChatGPT des de diferents regions, és possible que obtingueu resultats diferents que no siguin fiables”.
El professor Matt Ratto, de la Facultat d’Informació, va qüestionar què es considera “humà” i com aquests conceptes impacten en el disseny de la IA. Mentre que el professor Dakuo Wang de la Northeastern University va canviar l’enfocament a la IA centrada en l’ésser humà (HCAI), explorant el paradigma de la col·laboració humà-IA.
Ebrahim Bagheri, professor de la Toronto Metropolitan University, va abordar les disparitats de gènere en els classificadors basats en models de llenguatge gran (Large Language Model, LLM). Va emfatitzar la necessitat de formes automatitzades de jutjar els conjunts de dades. El professor Diyi Yang de la Stanford University va proposar un model de col·laboració entre humans i IA per abordar conflictes i millorar la comunicació.
“Podem pensar en eines que permetin a les persones personalitzar el procés de construcció de models que siguin més accessibles?”, va afegir la professora Swati Mishra de McMaster University.
Integració dels LLM a l’educació
El segon dia del taller, un panell de discussió sobre la integració dels LLM a l’educació, moderat pel professor Zhou. Va reunir experts i investigadors de la indústria per explorar el paper multifacètic dels LLM a l’educació i va comptar amb dos panells.
El primer, dirigit pel professor Guha de la Facultat dInformació, va explorar el desenvolupament responsiu de LLM. El segon, moderat pel Prof. Zhou, es va centrar en la integració dels LLM a l’educació. Aquests panells de discussió van incloure coneixements valuosos de la indústria del Dr. Alex Williams d’Amazon i el Sr. Hunter Kemeny d’IBM Quantum.
“Si et costa ensenyar alguna cosa a una persona, també et resultarà difícil ensenyar-ho a una màquina”, va emfatitzar el Dr. Williams.
Es va proposar una pregunta als assistents: “En el procés de creació de sistemes, hauríem de deixar que les idees conceptuals modelin el seu desenvolupament, o el desenvolupament real d’aquests sistemes modela i refina els matisos dels conceptes?”
Un informe del grup de treball va integrar els esforços de col·laboració i les idees clau generades durant el taller. L’esdeveniment va concloure amb un discurs de cloenda a càrrec de la professora Edith Law de la University of Waterloo. Va explorar els desafiaments d’alinear les tecnologies de l’IA amb els valors humans, i va destacar la naturalesa matisada dels valors humans en contextos pràctics.
El taller Fairness – ChatGPT va servir com a plataforma per al diàleg i va establir les bases per a una comunitat compromesa amb el desenvolupament responsable de la IA, amb l’objectiu de promoure la confiança, la responsabilitat i la transparència al panorama canviant de la IA generativa.
Llegit a: