Davos 2024 mostró la importancia de la IA en la sociedad moderna, destacando el inmenso potencial de IA para remodelar las economías y al mismo tiempo sobre la necesidad crucial de una gobernanza equilibrada que incluya consideraciones éticas y el desarrollo de habilidades.
¿Cuáles son las barreras generativas de IA relacionadas con el riesgo y la gobernanza? Cuando hablamos de. La IA generativa no podemos considerarlo simplemente una tecnología más. El desafío radica en poder capitalizar su potencial sin perder el control sobre ella. Si bien esta tecnología tiene capacidad para simular el pensamiento humano, pero no siempre el pensamiento humano es predecible o incluso socialmente aceptable; lo mismo ocurre con la tecnología.
Los riesgos qué se puede vislumbrar para la IA generativa son: información inexacta, infracción en los derechos de autor y plagio desde el punto de vista legal, así como la propiedad de los datos, propagar y sistematizar prejuicios sociales, así como propagar desinformación, alentar y ayudar a delincuentes a cometer delitos entre otros.
En Davos 2024 el director ejecutivo de Open AI, Sam Altman, así como Klaus Schwab, fundador del Foro Económico Mundial y otros líderes destacaron la necesidad de desmitificación de la IA así como la importancia de preparar a las personas con las habilidades necesarias para aprovechar de sus beneficios y simultáneamente gestionar los riesgos. Altman mencionó sobre un cambio hacia roles más centrados en ideas que aprovechen de la capacidad de la IA para elevar las actividades laborales a nuevos niveles; pero reconoció la complejidad de definir y alinear estos, recalcando la necesidad del establecimiento de estándares éticos y de seguridad.
En el panel de “tecnología en un mundo turbulento”. señaló que la IA no puede reemplazar nuestra necesidad de atención e interacción donde es necesario comprender los procesos de razonamiento de la IA para generar confianza a la misma.
Otros participantes abordaron cuestiones como son los derechos de autor del contenido generado por IA y la distinción entre las creaciones humanas y mecánicas. También se trató acerca de las mejores prácticas cuando hay una tendencia global hacia sistemas IA y la necesidad de establecer esfuerzos colaborativos en cuanto a los estándares de interoperabilidad. El filósofo Michael Sandel trató sobre las profundas implicaciones éticas y su impacto en la autenticidad humana, así como las líneas borrosas entre lo que son las conexiones humanas virtuales y las reales.
El primer ministro chino, Li Qiang recalcó la importancia de los mecanismos globales de gobernanza de la IA y Brad Smith presidente de Microsoft trató sobre la convergencia de la regulaciones de IA y la necesidad de una comprensión común en cuestiones fundamentales y las estrategias para abordarlas. A medida que esta tecnología siga evolucionando, las discusiones y decisiones que se tomen en los distintos forros desempeñarán un factor fundamental en determinar su trayectoria para beneficiar a todos.
