Inteligencia Artificial: ¿qué dice la nueva regulación europea?

Esta legislación europea estará en vigencia plena dentro de dos años.

Es la primera regulación integral del mundo sobre este tema. Clasifica los sistemas de IA en cuatro categorías: riesgo mínimo, riesgo de transparencia específico, riesgo elevado y riesgo inaceptable. En otras palabras, la legislación busca garantizar que la tecnología utilizada se desarrolla dentro de un marco de seguridad para los ciudadanos principalmente en temas de amenazas para los derechos fundamentales.

Francisco Bellas, catedrático en la Universidade da Coruña y quien ha investigado la IA en los últimos 20 años, dio detalles a EF sobre la aplicación de esta ley y su reglamento, el cual recalca la protección de la ciudadanía. También destaca que el peso de las normas recae sobre los proveedores y responsables de despliegue de los servicios IA.

LEA MÁS: Reflexiones acerca del reglamento europeo para regular la IA

“La Ley de IA prohíbe la introducción, uso o comercialización de sistemas de IA que manipulen decisiones ciudadanas, exploten vulnerabilidades, evalúen la probabilidad de cometer delitos, o utilicen datos biométricos para identificación y seguimiento en tiempo real, salvo excepciones limitadas para seguridad estatal. Además, los proveedores y responsables de estos sistemas deberán cumplir con requisitos de control, registro, información y cooperación con las autoridades”, explicó Bellas.

¿Es necesario replicar el modelo de la regulación en América Latina?

La capacidad de la IA se supera día tras día y el especialista considera que en América Latina es oportuno plantearse replicar el modelo regulatorio. Sobre todo porque “es una tecnología que puede manipular conductas y tomar decisiones por nosotros, por lo que debe ser regulada y controlada hasta que sepamos exactamente sus riesgos y beneficios”, añadió.

Por otra parte, reveló siete pilares sobre los cuales debería basarse una regulación adecuada para la IA.

Protección de Derechos Fundamentales: asegurar que los sistemas de IA no vulneren los derechos humanos y libertades básicas, como la privacidad y la no discriminación.

Transparencia y explicabilidad: garantizar que los sistemas de IA sean transparentes y sus decisiones sean comprensibles para los usuarios y afectados.

Responsabilidad y rendición de cuentas: establecer responsabilidades claras para los desarrolladores, proveedores y usuarios de IA, asegurando que se puedan exigir cuentas en caso de mal uso.

Seguridad de datos y privacidad: proteger los datos personales utilizados por la IA, asegurando que se cumplan estándares de seguridad robustos.

Prevención de manipulación y sesgos: evitar que los sistemas de IA manipulen o discriminen a las personas, garantizando la equidad en sus procesos y decisiones.

Evaluación y gestión de riesgos: implementar medidas para evaluar y gestionar los riesgos asociados con los sistemas de IA.

Uso ético y sostenible: promover el desarrollo y uso de la IA de manera ética, respetando los valores sociales y ambientales.

Aplicar la IA en empresas no es tarea fácil

Al ser relativamente nuevo el tema de la inteligencia artificial generativa, aún hay varias barreras significativas para poder aplicar en las empresas, siendo quizás la principal la falta de talento especializado. Además, las compañías deben hacer inversiones en tecnología para tener los sistemas actualizados, precisos y efectivos, así como adaptarse a los procesos.

“Las preocupaciones éticas y de privacidad también limitan su adopción, ya que las empresas temen posibles implicaciones legales y de reputación. Finalmente, la resistencia al cambio organizacional retrasa la integración de la IA, ya que algunos empleados y líderes pueden mostrarse reticentes a adoptar nuevas tecnologías que transformen sus roles tradicionales”, agregó Bellas.

LEA MÁS: Cómo abordar el uso de la IA en las tareas profesionales

Aunque el panorama no es fácil, la cantidad de organizaciones, a escala mundial, que buscan soluciones para impulsar la productividad con inteligencia artificial generativa pasó de 11% en 2023 a un 45%, según un estudio de la firma McKinsey & Company.

Inteligencia artificial en las aulas

Si hay un segmento donde la IA ha sido clave es la educación. Cientos de estudiantes se apoyan en estas herramientas para cumplir sus proyectos, lo cual ha desatado el debate de si los estudiantes se están malacostumbrando y se está formando una generación con poco pensamiento crítico.

Ante esta situación, Bellas considera que si se presenta una dependencia excesiva de la IA en el entorno educativo hay un riesgo importante de que se pierdan oportunidades para desarrollar habilidades blandas en las aulas y el vínculo entre docente y estudiante se debilite.

LEA MÁS: Inteligencia artificial y competencia

“La dependencia excesiva en la tecnología podría llevar a una reducción de la autonomía profesional de los docentes, quienes podrían sentirse obligados a seguir las recomendaciones de la IA incluso cuando su juicio profesional indique lo contrario. Esto podría limitar la creatividad pedagógica”, recalcó el catedrático.

Ante la consulta de cómo evitar que la mente de los estudiantes se vuelva “vaga” por el uso de estos recursos, Bellas considera que la IA puede personalizar el aprendizaje, adaptándose a las necesidades individuales de cada alumno. “Esto permite que los estudiantes trabajen a su propio ritmo, enfrentándose a desafíos que están alineados con su nivel de habilidad y comprensión, lo que los motiva a pensar críticamente en lugar de buscar soluciones fáciles”, agregó.

LEA MÁS: Estos son los cursos gratuitos y en línea con los que podrá dominar la IA

Bellas es el principal expositor de la convención 42 del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) de Centroamérica y Panamá, CONCAPAN 2024, que se llevará a cabo en San José, del 27 al 29 de noviembre en el Crown Plaza. Se tratarán temas como aplicaciones de última generación, ingeniería en medicina y biología, ingeniería informática, robótica e inteligencia artificial, etc.