Avui, al matí360 de Ràdio Marina ens ha acompanyat Martí Saguer, expert tecnològic per parlar de la IA.
La velocitat amb què evoluciona la intel·ligència artificial i la capacitat creixent dels nous models han tornat a encendre les alarmes dins del mateix sector tecnològic. L’expert tecnològic Martí Saguer considera que hi ha motius per prendre’s seriosament aquestes advertències i reclama més supervisió i prudència en el desenvolupament d’aquesta tecnologia.
“L’evolució de la IA està arribant a límits perillosos”, adverteix Saguer. L’expert assenyala que les veus que alerten dels riscos ja no són aïllades, sinó que provenen de diferents empreses i figures vinculades al desenvolupament de la intel·ligència artificial.
Segons Saguer, treballadors i antics responsables d’algunes d’aquestes companyies també han expressat preocupació per què pot passar si els sistemes cada vegada més autònoms operen sense prou supervisió humana. En aquest sentit, defensa que el creixement de les capacitats de la IA ha d’anar acompanyat de mecanismes de control.
Una de les principals preocupacions és precisament la rapidesa dels avenços. Saguer explica que algunes veus del sector situen en horitzons molt pròxims, fins i tot de mesos o pocs anys, l’arribada de sistemes amb capacitats molt superiors a les actuals.
Per a l’expert, el problema també és que empreses desenvolupadores, fabricants de xips, centres de dades i governs avancen a ritmes diferents. Mentre la indústria competeix per desenvolupar models cada vegada més potents, els governs intenten establir una regulació capaç d’adaptar-se a una tecnologia que canvia constantment.
Saguer considera especialment difícil arribar a una resposta global perquè les dues grans potències en aquest àmbit, els Estats Units i la Xina, mantenen interessos i estratègies pròpies. Davant d’aquesta situació, creu que les mateixes empreses tecnològiques hauran d’assumir part de la responsabilitat i introduir més prudència en el desenvolupament dels seus sistemes.
No tot el que ens explica la IA és cert
Més enllà dels riscos futurs, Saguer també posa el focus en com utilitzem actualment aquestes eines. Recorda que els sistemes d’intel·ligència artificial poden equivocar-se o proporcionar informació falsa i que, per tant, les seves respostes no s’han de donar automàticament per bones.
“No tot el que diu o ens explica la IA és cert”, remarca. Per això recomana donar instruccions clares, explicar el context i especificar què esperem obtenir, però sobretot mantenir una actitud crítica davant del resultat.
L’expert també mostra preocupació per l’ús dels xatbots com a substitut del suport psicològic professional. Saguer adverteix que aquests sistemes poden tendir a adaptar les respostes al que interpreta que l’usuari espera sentir i demana que no es converteixin en una alternativa als professionals de la salut mental.
Per tot plegat, defensa una combinació de supervisió humana, regulació, responsabilitat empresarial i sentit crític dels usuaris davant d’una tecnologia que continuarà guanyant pes en la vida quotidiana.
