¿La IA nos va a dominar? La mirada de investigadores de UTN Resistencia
Ante la creciente circulación de discursos que advierten sobre una posible “rebelión” de la Inteligencia Artificial o sobre la llegada de máquinas con voluntad propia, docentes investigadores del Centro de Investigación Aplicada en TICs (CInApTIC) de UTN Facultad Regional Resistencia elaboraron un documento que propone analizar estos fenómenos desde una perspectiva tecnológica, científica y ética.
Bajo el título Creencias, deseos, intenciones. ¿La Inteligencia Artificial nos va a dominar? La verdad sin filtro ni sensacionalismo, los investigadores buscan diferenciar las capacidades actuales de los sistemas de IA de algunas representaciones instaladas en redes sociales y medios de comunicación. El documento parte de una premisa central: en el estado actual de la ciencia, ninguna inteligencia artificial posee conciencia de sí misma y tampoco existe consenso científico sobre si podría desarrollarla bajo los paradigmas computacionales actuales.
De la “rebelión” a los permisos que les damos
Uno de los principales planteos del trabajo es que una IA no actúa a partir de deseos o intenciones propias. Los modelos actuales procesan información y ejecutan funciones matemáticas de acuerdo con su arquitectura, los objetivos establecidos y las herramientas a las que tienen acceso.
En este sentido, los investigadores de UTN explican que conceptos como “creencias”, “deseos” e “intenciones”, utilizados en la arquitectura BDI (Beliefs, Desires, Intentions), son metáforas computacionales y no implican que una máquina posea motivaciones humanas. Los objetivos que persigue un sistema son aquellos que fueron definidos en su diseño y programación.
El documento también aborda situaciones en las que un sistema parece desobedecer una instrucción, como cuando un agente utiliza una herramienta que se le pidió no utilizar. Para los investigadores, esto no constituye una señal de rebeldía, sino que puede responder a fallas de diseño, arquitectura o configuración de permisos. Una instrucción expresada en lenguaje natural no equivale a una restricción técnica efectiva.
El verdadero desafío: seguridad, regulación y responsabilidad
Desde esta perspectiva, el debate sobre la IA debería desplazarse de la posibilidad de que una máquina “quiera” dominar a las condiciones bajo las cuales los sistemas son diseñados y utilizados.
El documento diferencia entre los límites establecidos mediante instrucciones o sugerencias y aquellos que se implementan mediante restricciones de infraestructura: desactivar herramientas, aislar redes, limitar permisos o utilizar entornos seguros. Según explican los autores, estos “candados” técnicos resultan fundamentales para reducir riesgos, ya que no dependen de que un modelo interprete correctamente una orden.
En este marco, identifican como riesgos concretos los sistemas mal diseñados o testeados, la falta de regulación y la competencia acelerada entre empresas por desarrollar modelos cada vez más potentes. El documento analiza, además, cómo determinados incentivos económicos y competitivos pueden dificultar la incorporación de medidas de seguridad y alineación.
Otro de los aspectos abordados es el impacto ambiental asociado al desarrollo y uso de estas tecnologías, particularmente por el consumo de electricidad y agua que requieren los sistemas de IA.
Una discusión que también interpela a las universidades
En sus conclusiones, los investigadores de CInApTIC sostienen que la Inteligencia Artificial debe ser entendida como una herramienta matemática compleja, pero sin voluntad ni intenciones propias. Desde esta mirada, la responsabilidad frente a sus posibles riesgos recae en quienes diseñan, desarrollan, implementan y regulan estos sistemas.
El trabajo, elaborado por los docentes investigadores Diego Bolatti, Sergio Gramajo, Raúl Montiel, Jorge Roa y Reinaldo Scappini, destaca además el rol de las universidades en la formación ética y responsable vinculada al desarrollo y uso de la Inteligencia Artificial. El documento completo puede leerse en el siguiente enlace: Creencias, deseos, intenciones.¿La Inteligencia Artificial nos va a dominar? La verdad sin filtro ni sensacionalismo.
