CataloniaBio & HealthTech estrena un nou espai d’anàlisi de l’actualitat per donar veu al nostre principal capital: les entitats i empreses que formen part de l’associació. Una nova tribuna d’opinió per aturar-nos a reflexionar sobre els efectes que els canvis de l’entorn tenen sobre les empreses del sector de la salut.

El 13 de març d’aquest 2024 els legisladors del parlament europeu van aprovar per majoria una nova normativa per regular els sistemes d’IA, el primer marc jurídic de la història sobre la intel·ligència artificial. Ens en parla Casper Wilstrup, CEO d’Abzu.

Casper Wilsrtup - CEO, Abzu

Després d’anys de negociacions, la Llei d’Intel·ligència Artificial de la UE és, per fi, una realitat. Inicialment preocupant per la possibilitat de que regulés en excés la recerca en IA, aquesta legislació històrica s’ha centrat principalment en els casos d’ús de la IA, fet que ha suposat un alleujament per a molts en aquest camp.

El nucli de la Llei és la classificació de les aplicacions d’IA en diverses categories de risc. Identifica alguns usos específics com a riscos inacceptables, que estan totalment prohibits, o d’alt risc, que han de complir una normativa estricta. La majoria del usos, tanmateix, es consideren de risc moderat o limitat, i queden bàsicament sense regular.

En el sector de les ciències de la vida, moltes aplicacions d’IA – com les que s’utilitzen en el diagnòstic de pacients, les recomanacions de tractament i el desenvolupament de fàrmacs – entren en la categoria d’alt risc. Es tracta d’àmbits en els que les decisions de la IA tenen implicacions significatives per a les vides humanes i, per tant, estaran lligades a un major escrutini.

En el sector de les ciències de la vida, moltes aplicacions d’IA – com les que s’utilitzen en el diagnòstic de pacients, les recomanacions de tractament i el desenvolupament de fàrmacs – entren en la categoria d’alt risc.

Crec que és un enfocament beneficiós. Els sistemes d’IA que prenen decisions sanitàries crítiques han de ser justos, transparents i explicables. A mesura que aprofundim en la integració de la IA a les ciències de la vida aquests principis es converteixen en els pilars que garanteixen que l’avenç tecnològic s’alinea amb els valors humans i l’ètica. No es tracta només d’una obligació reglamentària, sinó també moral.

És igualment important que la industria de la IA innovi i compleixi la promesa transformadora de la IA. Per això és necessari desenvolupar tecnologies que siguin transparents i interpretables, que ens donarà als humans la comprensió que necessitem per confiar en les decisions preses per la IA. En el context de les ciències de la vida, on hi ha molt en joc, la confiança en una decisió presa per la IA només es guanya si som capaços d’entendre “el perquè” d’aquesta decisió.

En el context de les ciències de la vida, on hi ha molt en joc, la confiança en una decisió presa per la IA només es guanya si som capaços d’entendre “el perquè” d’aquesta decisió.

Per tant, només hem permetre que la tecnologia que garanteix la seguretat, l’equitat i la claredat en aplicacions d’alt risc es beneficiï de les nostres comunitats científiques, tècniques i empresarials a Europa. Com a CEO d’Abzu, una empresa emergent de recerca i desenvolupament d’IA que ara és best in class en el disseny terapèutic in silico d’ARN, he vist de primera mà com la IA pot impulsar la innovació. I també he vist àrees – blanques, negres i grises – en les què la gent sospesava una compensació percebuda entre l’explicabilitat i la innovació.

I em complau dir que aquesta disjuntiva no és una realitat: Podem exigir explicabilitat en les aplicacions d’alt risc i no quedar enrere a la cursa global de la IA. De fet, aquesta qualitat única ens pot fer saltar al principi de la fila de la innovació en IA.