La velocidad con que avanza la inteligencia artificial plantea una pregunta que antecede incluso a sus capacidades técnicas: ¿qué límites éticos deberían existir para su desarrollo? El problema, plantean los expertos, no consiste solamente en determinar qué usos de la inteligencia artificial deberían prohibirse o regularse, sino en comprender primero qué transformación representa la propia tecnología.
Para Cristian Candia, presidente del Comité de Ética de la Facultad de Filosofía y Humanidades y miembro del Centro de Estudios de Ética Aplicada de la misma facultad de la Universidad de Chile, el problema ético antecede incluso a la discusión sobre la singularidad. A su juicio, la dificultad central es que el desarrollo tecnológico ocurre dentro de un escenario que todavía carece de límites normativos suficientemente vinculantes.
“La IA en este momento a nivel nacional y a nivel mundial está desregularizada, y eso implicaría que por lo menos desde el punto de vista legal, no hay un límite“, planteó en diálogo con Radio y Diario Universidad de Chile. El académico agrega que, aunque existen iniciativas regulatorias tanto en Europa como en Chile, “no son vinculantes, son orientaciones, y orientaciones que quedan siempre a la zaga”.
La consecuencia, sostiene, es que existe una brecha entre la velocidad con que aparecen nuevas capacidades y la capacidad de las instituciones para responder. “Avanza más rápido el desarrollo de la inteligencia artificial, y por lo tanto, genera más peligros y riesgos que empiezan a irrumpir y a aparecer, que las regulaciones o normativas de orientación que se tienen“, explica.
El problema no sería solamente la ausencia de una prohibición específica, sino la dificultad de comprender qué se está regulando y cuáles son las consecuencias de una tecnología que cambia de manera constante. “Es muy difícil ver en este momento un límite ético al desarrollo de la IA“, sostuvo el experto.
La IA no sería solamente una herramienta
Para Candia, una de las primeras condiciones para establecer límites consiste en abandonar una comprensión reducida de la inteligencia artificial como una herramienta más dentro del desarrollo tecnológico.
“Yo creo que la IA representa en este momento un cambio en el estatuto del saber, un cambio en la producción de conocimiento y en la producción de subjetividad del mundo actual”, afirma.
Esa diferencia resulta fundamental para la discusión ética. Si la IA solo fuera una herramienta comparable con otras tecnologías, bastaría con determinar los usos permitidos y prohibidos. Pero si modifica la forma en que se produce conocimiento, se toman decisiones y se relacionan las personas con la información, sus efectos alcanzarían dimensiones más profundas.
“Si uno la entiende bajo ese principio, entonces recién la toma en serio, la toma como un problema real”, sostiene Candia.
El académico precisa que no plantea que los sistemas actuales hayan adquirido una autonomía general. Su preocupación apunta a determinados comportamientos en los que una IA puede apartarse de la instrucción original. “En algunas instancias no ha obedecido y por lo tanto ha transgredido su orden inicial. Estamos en esa etapa“, aseguró.
Para Candia, el problema ético aparece si esa trayectoria continúa y los sistemas adquieren capacidades que dificulten la gobernanza humana. “Sabemos que esa es una etapa que podría sobrepasarse en cualquier momento y esa inteligencia artificial podría generar una autonomía que pusiera en riesgo al ser humano”, manifestó.
El planteamiento conecta con la advertencia de Guido Girardi, fundador de Congreso Futuro y vicepresidente ejecutivo de Fundación Encuentros del Futuro, quien sostiene que la principal dificultad actual es precisamente la ausencia de normas éticas y regulatorias capaces de acompañar la velocidad de la tecnología.
“Hoy día el gran problema es que la inteligencia artificial es que no hay ninguna norma ética ni ninguna regulación“, afirmó consultado por nuestro medio.
Para Girardi, la IA presenta características que la diferencian de tecnologías anteriores. Una de ellas sería su velocidad de desarrollo; otra, su carácter autorrecursivo, debido a la posibilidad de utilizar sistemas de IA en procesos destinados a mejorar las propias capacidades de estos sistemas.
A eso suma un tercer elemento: la capacidad de sustituir determinadas competencias humanas. “Es una tecnología sustitutiva del humano, en el sentido que desplaza al humano y captura sus competencias para así las pierde del ser humano“, expresó.
La autonomía humana como problema ético
La preocupación por la pérdida de autonomía aparece también en la reflexión de Candia, aunque desde una perspectiva distinta. El académico advierte sobre el riesgo de que las personas comiencen a atribuir características humanas a sistemas que no necesariamente poseen esas propiedades.
Candia apunta a situaciones en las que las personas utilizan estos sistemas como acompañantes o incluso como figuras afectivas. “Tenemos personas que están tanto preguntando a la IA acerca de cómo desarrollar su comportamiento, cómo resolver sus problemáticas psicológicas, cómo enfrentar la soledad“, alertó.
El riesgo, sostiene, aparece cuando la IA deja de ser percibida como una herramienta y comienza a ocupar categorías propias de las relaciones humanas. “Cuando el ser humano empieza a generar categorías humanas más allá de lo humano”, planteó, se abre una frontera ética que requiere mayor discusión.
¿Quién debe decidir cuándo ralentizar?
Ese escenario permite volver al debate que en las últimas semanas protagonizaron los propios líderes de la industria sobre frenar el desarrollo de la IA. Pero Candia pide tomar esas declaraciones “con pinzas”.
“¿Por qué tenemos que creer que un CEO de las corporaciones va a querer ralentizar eso?“, cuestionó. El académico plantea que las compañías podrían tener incentivos estratégicos para moderar temporalmente la carrera por razones que no necesariamente coinciden con el interés general.
Por eso considera insuficiente que la propia industria sea la principal fuente de conciencia sobre los riesgos. “La conciencia tiene que venir de los gobiernos. La conciencia tiene que venir de las instancias de regulación”, reflexionó.
Guido Girardi también considera insuficiente una respuesta basada en las decisiones individuales de las empresas. “Esto transcurre en el mundo global, por lo tanto, está fuera del alcance de los estados nacionales, esto supera a los estados nacionales“, afirmó.
Para Girardi, sin embargo, la pregunta ética es anterior: qué capacidad tiene la sociedad para establecer límites antes de que los efectos de una tecnología sean irreversibles.
“Las democracias son lentas, requieren de consenso, son instituciones que requieren de reflexión, de silencio“, sostuvo. Desde su perspectiva, esa diferencia entre la velocidad tecnológica y la velocidad institucional constituye uno de los principales problemas del momento.
La entrada “No hay un límite ético al desarrollo”: el dilema ante el acelerado avance de la IA se publicó primero en Diario y Radio Universidad Chile.
Comentarios