IA ética: por qué tanto interés en la fabricación en manos de la IA

PDF del artículo

A largo plazo, el desafío de la IA es encontrar el equilibrio entre el crecimiento económico y las responsabilidades sociales.


Ver Glosario de siglas ● HIC: Human in Command, ‘ser humano al mando’
● HITL: Human in the Loop, ‘ser humano dentro del circuito’
● HOTL: Human on the Loop, ‘ser humano por sobre el circuito’
● IA: inteligencia artificial
● PyME: pequeña y mediana empresa

A la vez que parece que la inteligencia artificial es el juguete nuevo de la sociedad actual, los fabricantes han estado lidiando con ella desde las primeras máquinas de diseño asistido por computadora en la década del ‘70. Desde brazos robóticos para construir los motores de las aeronaves hasta visión computarizada para encontrar microdefectos en tiempo real, casi cualquier línea de ensamblado moderna depende de la automatización. Saque a la IA de los procesos de fabricación y verá que esta se hace más lenta, con costos más elevados, menos control de calidad y una pérdida significativa de la competitividad.
Lo que cambió recientemente, sin embargo, son las capacidades de la IA de pensamiento en profundidad. Hoy en día, la tecnología no es un mero dispositivo; es cada vez más capaz de razonamientos complejos que despliegan soluciones de fabricación innovadoras. Algunas fábricas se valen de la IA para alcanzar de un 2 a 3% de aumento en la productividad, 50% de mejora en los niveles de servicio y 30% de reducción del consumo de energía. Por esa razón, más de las tres cuartas partes de las compañías a nivel mundial usan la IA en al menos una de sus funciones de negocio, y muchas más las imitarán.
Pero este nuevo nivel de dependencia también introduce preguntas de orden ético. A menos que los fabricantes sean transparentes respecto de su respaldo tecnológico, ¿podemos confiar en la IA a la hora de tomar decisiones libres de sesgos, gestionar recursos sostenibles y priorizar la protección humana?
Cómo se pueden complementar las inteligencias humana y de las máquinas
Antes de cargar a la IA con más responsabilidades, las empresas deben establecer los principios y límites que guiarán su aplicación. En primer lugar, se deben considerar algunos criterios obvios. Los productos de IA y sus aplicaciones no deberían violar los principios establecidos en la Declaración Universal de Derechos Humanos, y su uso también debería acordar con las leyes de los países para los que se usa. Los requisitos legales deben guiar el desarrollo e implementación, dejando lugar para la adaptación por si se endurecen las normas o surgen nuevos riesgos.
Luego, los fabricantes necesitan determinar el nivel de involucramiento e influencia que tendrá la IA. Existen tres tipos de rol de la IA en la toma de decisiones:
  • Ser humano al mando (‘HIC’, por sus siglas en inglés). La IA se usa exclusivamente como herramienta. En todo momento, las personas deciden cuándo y cómo usar los resultados que arroja. Un ejemplo es cuando una máquina clasifica material prima basándose en la calidad, pero un operario revisa la clasificación y siempre tiene la última decisión sobre cómo usarla.
  • Ser humano dentro del circuito (‘HITL’, por sus siglas en inglés). Las personas pueden influenciar o directamente cambiar decisiones tomadas por la IA. Por ejemplo, un sistema con IA de mantenimiento predictivo puede recomendar el momento en que una máquina necesita servicio, pero un técnico humano puede revisar la recomendación de la IA, quizá considerar factores adicionales como anomalías de rendimiento recientes, y decidir efectuar el servicio de forma inmediata o pasar de largo la sugerencia.
  • Ser humano por sobre el circuito (‘HOTL’, por sus siglas en inglés). Concierne tecnología inteligente autónoma, tal como un sistema de frenado de emergencia. Los humanos definirán los parámetros de la decisión durante un proceso de diseño, pero las decisiones en sí mismas se delegan a la IA. De todas formas, también permite que aquellos afectados por la decisión puedan solicitar una revisión y asegurarse de que todo se llevó a cabo según lo previsto.
Si bien en cada rol la IA asume diversos grados de autonomía, todos comparten un elemento en común: el ser humano. La IA está llamada a ampliar el campo de juego de la industria, con pymes y start-ups cada vez más competitivas contra empresas tradicionales gracias al desarrollo de capacidades que requieren pocos recursos. Pero la IA necesita servirse de las personas, no al revés.
Comprometer empleados en la optimización de la IA
Aunque el conocimiento sobre la IA está creciendo, hay una brecha significativa entre las habilidades percibidas y las reales respecto de la IA. Si bien la competencia en IA en las industrias se arrima al 80%, las organizaciones igualmente deben adoptar programas intensivos de readquisición para que sus empleados obtengan el máximo potencial de la IA.
La paradoja acá es que los operarios con experiencia tienen mucha más comprensión acerca de las herramientas que necesitan para elevar su habilidad y eliminar las tareas repetitivas que ralentizan la productividad que casi cualquier persona de nivel ejecutivo. Entonces, los líderes deben crear una colaboración formalizada entre el personal y los expertos en cualquier tema para todas las discusiones acerca de la mejor implementación de una IA.
Primero, convocar a reuniones regulares de pocas personas, en donde los empleados y pymes puedan compartir sus puntos de vista y descubrir el potencial de la IA. Hacer que esas reuniones se sientan exploratorias y de poco riesgo, o quizá hacer encuestas o plataformas de comentarios anónimas, para asegurarse respuestas honestas. La clave es actuar en consecuencia de esas devoluciones de forma visible, de modo que los operarios se sientan escuchados e involucrados en la transformación de la empresa.
Después, llevar a los operarios a las fases de diseño de herramientas de la IA. Pedirles que testeen, pongan a prueba y validen las herramientas, a fin de alcanzar mejores soluciones y una mayor aceptación.
El desarrollo de la confianza guiará el desarrollo de la tecnología
A fin de alcanzar una mayor aceptación de parte de los empleados, los negocios deben no solo declarar, sino también demostrar que el principal objetivo de la IA no es el reemplazo sino el incremento de las capacidades humanas. Más que una cuestión de mero ahorro de costos, para los operarios el éxito se resume en menos trasnoches, menos operaciones manuales y más tiempo dedicado al trabajo creativo o de más valor.
Para sortear las brechas, identificar técnicos respetados que actúen como ligazón entre los jefes y los operarios. Estos “embajadores de la IA” pueden ayudar a convertir las necesidades técnicas en prioridades estratégicas. Mientras tanto, las empresas pueden invertir en la capacitación y desarrollo de su gente, lo cual aumenta su lealtad y compromiso y los deja mejor preparados para los cambios tecnológicos que se avecinan.
Los roles centrados en la IA emergen rápidamente. Los nuevos conjuntos de habilidades como etiquetar datos (a fin de que la IA pueda entenderlos y aprender de ellos) e ingeniería de instrucciones (preparar preguntas o instrucciones precisas para las herramientas de IA como modelos de lenguaje) requiere organización para reconocer y apoyar nuevas oportunidades de crecimiento.
Al final, la confianza del empleado es la base de un negocio exitoso sostenible. Tiene que ver con cómo reforzamos e ilustramos el rol de la IA para mejorar nuestro mundo: despertando entusiasmo, mejorando perspectivas económicas y promoviendo el uso responsable de recursos naturales. En el largo plazo, el desafío de la IA reposa en el equilibrio entre el crecimiento económico y las responsabilidades sociales. Una transformación incremental construida sobre la transparencia total es la única manera de asegurar los beneficios de la IA para los negocios, la sociedad y el ambiente.

Fuente: Automation
Nota del editor: El artículo aquí presentado fue publicado originalmente en inglés para Automation, disponible en https://www.automation.com/en-us/articles/july-2025/ethical-ai-why-human.... La traducción al español estuvo a cargo de Alejandra Bocchio, especialmente para este medio.
Todas las publicaciones de: 
Número: 
Mes: 
Año: