¿Qué es la hiperautomatización? – O´Reilly

Gartner ha señalado a la “Hiperautomatización” como una de las 10 principales tendencias para 2022. ¿Debería serlo? ¿Es una tendencia real o solo una colección de palabras de moda? Como tendencia, no está funcionando bien en Google; muestra poco crecimiento a largo plazo, si lo hay, y no se acerca a tantas búsquedas como términos como «Observabilidad» y «Redes antagónicas generativas». Y nunca ha brotado lo suficiente en nuestra conciencia como para convertirlo en nuestra pieza mensual de Tendencias. Como tendencia, somos abiertamente escépticos sobre la hiperautomatización.

Sin embargo, esa conclusión escéptica es demasiado simplista. La hiperautomatización puede ser solo otra estratagema en el juego del bingo de palabras de moda, pero debemos mirar detrás del juego para descubrir qué es importante. Parece haber un amplio acuerdo en que la hiperautomatización es la combinación de la Automatización Robótica de Procesos con la IA. La generación de lenguaje natural y la comprensión del lenguaje natural también se mencionan con frecuencia, pero se incluyen en la IA. También lo es el reconocimiento óptico de caracteres (OCR), algo que ahora es obsoleto, pero es una de las primeras aplicaciones exitosas de la IA. El uso de IA para descubrir tareas que se pueden automatizar también surge con frecuencia. Si bien no encontramos atractiva la multiplicación de palabras de moda, es difícil argumentar que agregar IA a algo no es interesante, y específicamente agregar IA a la automatización.

También es difícil argumentar en contra de la idea de que veremos más automatización en el futuro de lo que vemos ahora. Lo veremos en el procesamiento de los miles de documentos que manejan las empresas todos los días. Lo veremos en atención al cliente. Lo veremos en conformidad. Lo veremos en la sanidad. Lo veremos en la banca. Hace varios años, el programa «¡Automatiza todas las cosas!» meme se originó en la transformación de TI de la administración manual del sistema a la administración de configuración automatizada y la implementación de software. Esa puede ser la primera instancia de lo que ahora se ha bautizado como Hiperautomatización. Sin duda, podemos aplicar el eslogan a muchas, si no a todas, las tareas administrativas, e incluso al propio proceso de automatización. “Automatizar todas las cosas” es en sí mismo una cosa. Y sí, el meme siempre fue parcialmente irónico, por lo que debemos estar atentos a las promesas que se hacen fácilmente pero que son difíciles de cumplir. Algunas tareas no deben automatizarse; algunas tareas podrían automatizarse, pero la empresa no tiene datos suficientes para hacer un buen trabajo; algunas tareas se pueden automatizar fácilmente, pero se beneficiarían si se rediseñaran primero.

Así que somos escépticos sobre el término Hiperautomatización, pero no somos escépticos sobre el deseo de automatizar. Una nueva palabra de moda puede poner la automatización en el radar de los ejecutivos, o puede ser poco más que una técnica para cambiar la marca de productos más antiguos. La diferencia es centrarse en las necesidades de su negocio, en lugar del argumento de venta. La automatización de las tareas rutinarias de la oficina es un proyecto importante y valioso, y el rediseño de las tareas rutinarias para que puedan integrarse en un flujo de trabajo más grande que pueda automatizarse de manera más efectiva es aún más importante. Dejando a un lado la palabra de moda, podemos comenzar preguntándonos qué requiere un proyecto de automatización exitoso. A la larga, la palabra de moda no es importante; hacer el trabajo es lo que importa.

Automatización de procesos de oficina

Es fácil observar que en la mayoría de las empresas hay muchos procesos que pueden automatizarse pero no lo están. Procesar facturas, administrar inventario, servicio al cliente, manejar solicitudes de préstamos, tomar pedidos, facturar a los clientes: todos estos son procesos que son en gran parte rutinarios y abiertos a la automatización. En algunas empresas, estas tareas ya están automatizadas, al menos en parte. Pero no quiero trivializar el pensamiento que implica automatizar un proceso. ¿Qué se requiere?

El personal de la oficina suele realizar tareas como el procesamiento de facturas al completar un formulario web. Automatizar este proceso es simple. Seleniola primera herramienta para la prueba automatizada del navegador (2004), podría programarse para encontrar campos en una página web, hacer clic en ellos o insertar texto, hacer clic en «enviar», raspar la página web resultante y recopilar resultados. Automatización robótica de procesos (RPA) tiene un nombre más elegante, pero eso es realmente todo lo que es. Este tipo de automatización es anterior a la IA moderna. Está puramente basado en reglas: haga clic aquí, agregue un nombre allí, use una lógica bastante simple para completar los otros campos y haga clic en enviar. Es posible aumentar este proceso básico con OCR para que la aplicación pueda encontrar datos en formularios en papel o utilizar el procesamiento de lenguaje natural para recopilar información a través de un servidor de chat. Pero el núcleo del proceso es simple y no ha cambiado mucho desde los primeros días de las pruebas web. Podríamos verlo como un ejemplo de estilo años 80”sistemas expertos”, basado en reglas comerciales deterministas.

Ese escenario simple no se sostiene para tareas más complejas. Considere una solicitud para surtir una receta en una farmacia. Esa aplicación tiene que:

  • buscar cuándo se surtió la receta por última vez
  • busque los datos del paciente para ver si quedan recargas
  • busca al prescriptor y genera un mensaje, si no quedan recargas
  • busque los otros medicamentos del paciente para determinar si hay alguna interacción con otros medicamentos
  • consultar las normas sobre sustancias restringidas, en cuyo caso se aplican otras normas (por ejemplo, exigir identificación cuando el paciente retira el medicamento)
  • busque el stock de la farmacia para ver si el medicamento está disponible (y pídalo si no lo está)
  • busque el seguro del paciente para generar cargos para la compañía de seguros
  • busque la información de la tarjeta de crédito del paciente para generar un cargo por el copago

Probablemente haya aún más pasos (no soy farmacéutico) y variaciones: recetas nuevas, recetas vencidas, pacientes sin seguro, tarjetas de crédito vencidas y, sin duda, muchos casos más. Ninguno de estos pasos es particularmente difícil por sí mismo, y cada uno podría verse como una tarea separada para la automatización, lo que le brinda una red de tareas interconectadas, más complejas, pero no necesariamente un mal resultado. Sin embargo, una cosa debería ser obvia: para surtir una receta, debe acceder a muchos tipos diferentes de datos, en muchas bases de datos diferentes. Algunas de estas fuentes de datos serán propiedad de la farmacia; otros no lo son. La mayoría están sujetos a normas de privacidad. Es probable que todos existan en algún tipo de silo al que es difícil acceder desde el exterior del grupo que creó el silo, y la razón de esa dificultad puede ser tanto política como tecnológica. Entonces, desde el principio, tenemos un problema de integración de datos combinado con un problema de cumplimiento. La integración de datos y el cumplimiento normativo son particularmente difíciles en la atención médica y la medicina, pero no se engañe: si trabaja con datos, enfrentará problemas de integración, y si trabaja con datos personales, debe pensar en el cumplimiento. . Un proyecto de IA que no aborde la integración y el gobierno de datos (incluido el cumplimiento) está condenado al fracaso, independientemente de lo buena que sea su tecnología de IA. Palabra de moda o no, Hyperautomation está haciendo un servicio si enfoca la atención en estos problemas.

Los problemas de integración de datos no son agradables; son aburridos, sin interés, el «campo de la muerte de cualquier proyecto de modelado», como ha dicho Lorien Pratt. Así que realmente no podemos hablar de automatizar ninguna tarea importante sin verla como un proyecto de integración de datos no trivial: coincidencia de ID, reconciliación de definiciones ligeramente diferentes de columnas de base de datos, eliminación de duplicados, reconocimiento de entidad nombrada, todas esas cosas divertidas. Algunas de estas tareas se han automatizado, pero muchas no. andres ng, christopher ré, y otros han señalado que en la última década hemos progresado mucho con los algoritmos y el hardware para ejecutar la IA. Nuestro conjunto actual de algoritmos de IA es lo suficientemente bueno, al igual que nuestro hardware; los problemas difíciles tienen que ver con los datos. Esa es la vanguardia de la investigación de IA: automatizar formas de encontrar datos de calidad, limpiarlos, etiquetarlos y fusionarlos con datos de otras fuentes. Si bien esa investigación recién está comenzando a filtrarse en la práctica, y aún queda mucho por hacer, «automatizar todas las cosas» requerirá enfrentar los problemas de datos desde el principio.

Otra triste realidad es que los datos de una empresa son menos ricos de lo que les gustaría pensar. No necesitamos mirar más allá de O’Reilly para encontrar un ejemplo. Como cualquier empresa en línea, tenemos una buena visibilidad de lo que sucede en la Plataforma de aprendizaje O’Reilly. Podemos ver qué libros y cursos están usando nuestros clientes y por cuánto tiempo. Sabemos si los clientes solo leen el primer capítulo de algún libro, y pueden pensar en cómo mejorarlo. Los datos disponibles para nuestro negocio minorista son mucho más limitados. Sabemos que hemos vendido X libros a Amazon y Y libros a mayoristas, pero nunca sabemos nada sobre los clientes que compran esos libros, cuándo los compran o incluso si los compran. Los libros pueden permanecer en los estantes o en los almacenes durante mucho tiempo antes de que regresen como devoluciones. el en línea el negocio es rico en información; el negocio minorista es pobre en información. La mayoría de los negocios del mundo real se encuentran en algún lugar entre esos extremos.

Esa es la mala noticia. La buena noticia es que estamos hablando de construir algo emocionante. Estamos hablando de aplicaciones que utilizan API para extraer datos de muchas fuentes diferentes y ofrecer mejores resultados que los humanos. Estamos hablando de aplicaciones que integran todas esas fuentes en un solo curso de acción y pueden hacerlo sin problemas. Hay resonancias entre esto y lo que, en otros dominios de aplicación, se denomina «metaverso». Si bien somos escépticos acerca de cómo se ha utilizado el término «hiperautomatización», también nos preguntamos: ¿es la hiperautomatización, considerada correctamente, la versión comercial del metaverso? Un componente de un metaverso de negocios sin duda sería el acceso continuo a los datos dondequiera que residan; el metaverso estaría poblado por bots que automatizan tareas rutinarias. Sostenga ese pensamiento; volveremos a ello.

Tomar buenas decisiones comerciales

Encontrar procesos para automatizar se denomina descubrimiento de procesos. Tenemos que tener cuidado con el descubrimiento de procesos porque automatizar los procesos incorrectos, o automatizarlos de manera inapropiada, desperdicia recursos en el mejor de los casos; en el peor de los casos, puede hacer que un negocio no sea competitivo. Hay productos que usan IA para descubrir qué procesos se pueden automatizar, pero en la vida real, el descubrimiento de procesos dependerá en gran medida de las personas: su conocimiento del negocio, el conocimiento de los expertos en la materia y el conocimiento de los miembros del personal que realmente están haciendo el trabajo, y cuya entrada a menudo se ignora. Recuerdo a un amigo que fue contratado para crear una nueva aplicación para controlar a los pacientes en el consultorio de un médico. Los recepcionistas odiaban la vieja aplicación. Nadie supo por qué, hasta que mi amigo insistió en sentarse en el escritorio de la recepcionista. Entonces fue dolorosamente obvio por qué el personal odiaba la aplicación anterior, y el problema fue fácil de corregir.

Durante la última década, un problema con la ciencia de datos y sus sucesores ha sido la suposición de que todo lo que necesita son datos, y muchos; analizar esos datos lo llevará a nuevos productos, nuevos procesos, nuevas estrategias: simplemente siga los datos y deje que transformen su negocio. Pero también sabemos que la mayoría de los proyectos de IA fallanTal como la mayoría de los proyectos de TI fallan. Si no desea que sus proyectos se encuentren entre los fracasos, no puede hacer suposiciones ingenuas sobre lo que pueden hacer los datos. A todas las empresas les gusta «arriba y a la derecha», y los datos son buenos para revelar tendencias que miran «hacia arriba y a la derecha». Sin embargo, el crecimiento siempre termina: nada crece exponencialmente para siempre, ni siquiera Facebook y Google. Eventualmente se quedará sin nuevos clientes potenciales, materia prima, crédito en el banco, algo se interpondrá en el camino. Las tendencias históricas reveladas por los datos eventualmente terminarán. Los datos no son muy buenos para decirle dónde se aplanará la curva de crecimiento, y para un ejecutivo, esa es probablemente la información más importante. ¿Qué hará que terminen esas tendencias y qué estrategias deberá adoptar la empresa? Es difícil responder a ese tipo de pregunta con nada más que datos.

Lorien Pratt describe un proceso de cuatro pasos para usar los datos de manera efectiva para tomar decisiones comerciales:

  • Comprenda los resultados comerciales que desea lograr.
  • Comprenda las acciones que puede tomar en su situación comercial actual.
  • Trace los caminos entre las acciones y los resultados. Si tomas alguna acción, ¿qué cambia? La mayoría de las acciones tienen múltiples efectos.
  • Decida dónde encajan los datos. ¿Qué datos tiene? ¿Cómo puede usarlo para analizar su situación actual y medir los resultados de cualquier acción que tome?

Estos cuatro pasos son el corazón de inteligencia de decisión. Es un buen proceso para cualquier decisión comercial, pero es particularmente importante cuando implementa la automatización. Si comienza con los datos, en lugar de los resultados comerciales y las palancas que puede usar para cambiar la situación, es probable que pierda importantes posibilidades. Ningún conjunto de datos te dice la estructura del mundo; que requiere pericia y experiencia humana. Encontrará optimizaciones locales pequeñas, pero es probable que se pierda casos de uso importantes si no observa el panorama general. Esto conduce a una «brecha de decisión de conocimiento». Pratt menciona el uso de imágenes satelitales para analizar datos relevantes para el cambio climático: predecir incendios, inundaciones y otros eventos. Los modelos existen y son potencialmente muy útiles; pero en el terreno, los bomberos y otras personas que responden a emergencias todavía usan mapas de papel. No tienen acceso a mapas y pronósticos actualizados, que pueden mostrar qué caminos se pueden usar de manera segura y dónde se han producido daños graves. Los datos deben convertirse en el medio, una herramienta para tomar buenas decisiones. No es un fin en sí mismo.

Donald Farmer dice algo similar. Es fácil observar algún proceso (por ejemplo, el procesamiento de facturas o el registro de pacientes) y decidir automatizarlo. Usted analiza lo que hace su personal para procesar una factura y luego diseña un sistema para realizar ese proceso. Puede usar algunas herramientas de descubrimiento de procesos para ayudar. Si el proceso que está automatizando requiere tomar algunas decisiones simples, probablemente se pueda usar la IA para automatizar esas decisiones. Probablemente tendrá éxito, pero este enfoque pasa por alto dos grandes problemas. En primer lugar, muchos procesos comerciales son procesos fallidos. Son ineficientes, mal diseñados y tal vez incluso totalmente inapropiados para la tarea. Nunca suponga que la mayoría de las empresas están bien administradas y que representan algún tipo de «mejor práctica». Si automatiza un proceso pobre, todo lo que tiene es un proceso pobre más rápido. Eso puede ser una mejora, pero incluso si es una mejora, seguramente estará lejos de ser óptima.

El segundo punto de Farmer está relacionado, pero es mucho más profundo. Los procesos de negocio nunca existen de forma aislada. Se conectan a otros procesos en una red compleja. Esa red de procesos conectados es realmente lo que hace que el negocio funcione. El procesamiento de facturas tiene zarcillos en la contabilidad. La fabricación afecta el control de calidad, la atención al cliente, las finanzas, el envío y la recepción, las cuentas por cobrar y más. Los procesos de recursos humanos tienen efectos en toda la organización. Rediseñar un proceso puede brindarle una mejora local, pero repensar cómo funciona el negocio es una oportunidad mucho mayor. El agricultor señala Línea negro, una empresa que hace automatización de procesos para servicios financieros. No automatizan un solo proceso: automatizan todos los procesos financieros de un cliente, con el resultado de que todas las acciones se procesan de inmediato; los libros siempre están cerrados. Este tipo de automatización tiene enormes consecuencias. No tiene que esperar algunas semanas después del final de un mes (o trimestre o año) para cerrar los libros y conocer sus resultados; conoces los resultados continuamente. Como resultado, su relación con muchas métricas financieras importantes cambia. Siempre conoce su flujo de caja; usted siempre conoce su línea de crédito. Las auditorías adquieren un significado completamente diferente porque la empresa siempre se audita a sí misma. Las nuevas estrategias son posibles porque tienes información que nunca antes habías tenido.

Otras áreas de una empresa podrían ser tratadas de manera similar. ¿Cómo sería la gestión de la cadena de suministro si una empresa tuviera información constante y actualizada sobre inventario, fabricación, nuevos pedidos y envíos? ¿Qué pasaría con el diseño, las ventas y la ingeniería de productos si tuvieran a su disposición un resumen constante de los problemas del servicio de atención al cliente?

Estos cambios suenan como algo de lo que hemos hablado a menudo en el desarrollo de software: integración continua y entrega continua. Así como CI/CD requiere que los departamentos de TI automaticen las canalizaciones de implementación de software, los procesos comerciales continuos provienen de la automatización, en conjunto, de todos los procesos que hacen que las empresas funcionen. Repensar la totalidad de los procesos de un negocio para obtener nuevos conocimientos sobre la naturaleza del negocio, cambiar su relación con medidas críticas como el flujo de efectivo y automatizar el núcleo del negocio para hacerlo más efectivo es, de hecho, hiperautomatización. Se trata de integrar procesos que no se podían integrar cuando los procesos se hacían a mano; ese patrón se repite repetidamente a medida que las empresas se transforman en negocios digitales. Nuevamente, ¿suena esto como un Metaverso de negocios? Después de todo, el metaverso del consumidor se trata de compartir una experiencia inmersiva. Si bien la automatización de los procesos comerciales no requiere gafas de realidad virtual, para un ejecutivo no puedo imaginar nada más inmersivo que el conocimiento inmediato y preciso de todos los aspectos del negocio de una empresa. Seguramente eso es más importante que asistir a una reunión con los avatares 3D de su banco.

Este tipo de automatización no proviene de una aplicación superficial de IA a algunas tareas comerciales aisladas. Se trata de una integración profunda de la tecnología, las personas y los procesos. La integración comienza con una comprensión profunda de los objetivos de una empresa, continúa con una comprensión de las acciones que puede tomar para cambiar sus situaciones y termina con el desarrollo de herramientas basadas en datos para efectuar los cambios que desea ver. Si bien las herramientas de IA pueden ayudar a descubrir procesos que se pueden automatizar, las herramientas de IA no pueden hacer esto trabajo solo. No puede suceder sin expertos en la materia. Requiere colaboración entre personas que conocen bien su negocio, las personas que realmente realizan esas tareas y las partes interesadas, ninguna de las cuales tiene la imagen completa. Tampoco puede llevarse a cabo sin abordar los problemas de integración de datos de frente. Para algunos problemas, como la aplicación de recetas de farmacia que ya hemos mencionado, la integración de datos no es solo otro problema; es el problema que empequeñece a todos los demás problemas.

También debemos ser conscientes de los peligros. Por un lado, automatizar todos los procesos de una empresa para hacer un todo único y coherente suena como una gran idea. Por otro lado, suena como el tipo de proyecto de TI masivo que hierve el océano y que casi seguramente fallará o permanecerá inacabado para siempre. ¿Existe un término medio entre automatizar un solo proceso y embarcarse en una tarea interminable? Tiene que haber. Comprenda los objetivos de su negocio, comprenda qué palancas pueden afectar su rendimiento, comprenda dónde puede usar los datos y luego comience con un solo proceso, pero un proceso que haya entendido en un contexto más amplio. Entonces no se limite a crear aplicaciones. Cree servicios y aplicaciones que funcionen mediante el uso de esos servicios. Cree una API que pueda integrarse con otros procesos que automatice. Cuando crea servicios, facilita la automatización de sus otras tareas, incluidas las tareas que involucran a clientes y proveedores. Así es como Jeff Bezos construyó El imperio empresarial de Amazon.

Los humanos en el bucle

Los desarrolladores que están automatizando los sistemas comerciales tienen que determinar dónde pertenecen los humanos en el ciclo. Este es un tema delicado: muchos empleados tendrán miedo de perder sus trabajos, ser «reemplazados por una máquina». A pesar de hablar de hacer que los trabajos sean más interesantes y desafiantes, sería poco realista negar que muchos ejecutivos miran la automatización de procesos y piensan en reducir la plantilla. Los temores de los empleados son reales. Aún así, a mediados de 2022, seguimos en un mercado laboral donde la contratación es difícil, en cualquier nivel, y si una empresa va a crecer, necesita los recursos humanos para crecer. Automatizar los procesos para tomar decisiones en situaciones rutinarias puede ser una forma de hacer más sin agregar personal: si los empleados de farmacia pueden confiar en un proceso automatizado para buscar interacciones de medicamentos, regulaciones y registros médicos, además de administrar el proceso de seguros, son libre para asumir tareas más importantes o más difíciles.

Hacer que los trabajos sean más desafiantes (o difíciles) puede ser un arma de doble filo. Si bien muchas personas en la industria de la automatización hablan de «liberar al personal de tareas aburridas y rutinarias», a menudo no están familiarizadas con las realidades del trabajo administrativo. Las tareas aburridas y rutinarias son de hecho aburridas y rutinarias, pero pocas personas quieren pasar todo su tiempo lidiando con tareas difíciles y complejas. A todo el mundo le gusta una «ganancia fácil» y pocas personas quieren un entorno en el que se enfrenten constantemente a desafíos y dificultades; al menos, terminarán abordando cada nueva tarea cuando estén cansados ​​y mentalmente agotados. Es menos probable que los empleados cansados ​​y estresados ​​tomen buenas decisiones y es más probable que piensen «cuál es la forma más fácil de sacar esta decisión de mi escritorio». No se ha resuelto la cuestión de cómo equilibrar las experiencias laborales de los empleados, brindándoles «ganancias fáciles» pero permitiéndoles manejar los casos más desafiantes. No hemos visto una respuesta a esta pregunta; por el momento, es importante reconocer que es un problema real que no se puede ignorar.

También es muy fácil hablar de «humano en el circuito» sin hablar de dónde, exactamente, encaja el ser humano en el circuito. El diseño del bucle debe ser parte del plan de automatización. ¿Queremos que los humanos evalúen y aprueben todas las decisiones del sistema de IA? Eso plantea la pregunta de exactamente qué, o por qué, estamos automatizando. Ese tipo de bucle podría ser algo más eficiente, porque el software buscaría información y completaría formularios automáticamente. Pero la ganancia en eficiencia sería relativamente pequeña. Incluso si no necesitaran dedicar tiempo a buscar información, un oficinista aún necesitaría comprender cada caso. Queremos sistemas que implementen la automatización de extremo a extremo, tanto como sea posible. Necesitamos que los empleados permanezcan informados, pero es posible que su función no sea tomar decisiones individuales. Los empleados humanos necesitan monitorear el comportamiento del sistema para asegurarse de que funciona de manera efectiva. Para algunas decisiones, la IA solo puede desempeñar un papel de asesoramiento: un ser humano puede usar la IA para ejecutar una serie de simulaciones, observar los posibles resultados y luego establecer una política o ejecutar alguna acción. Los humanos no son manejados por la máquina; es al revés. Los seres humanos necesitan comprender el contexto de las decisiones y mejorar la capacidad del sistema para tomar buenas decisiones.

Si queremos dejar tantas decisiones como sea posible al sistema, ¿qué roles queremos que tengan los humanos? ¿Por qué queremos humanos en el circuito? ¿Qué deberían estar haciendo?

  • Los humanos necesitan administrar y mejorar el sistema.
  • Los humanos necesitan investigar y rectificar las malas decisiones.

Ninguno de los roles es trivial o simple. “Administrar y mejorar el sistema” abarca mucho, desde la automatización de nuevas tareas hasta la mejora del rendimiento del sistema en las tareas actuales. Todos los modelos de IA tienen una vida finita; en algún momento, su comportamiento no reflejará el «mundo real», posiblemente porque el propio sistema ha cambiado la forma en que se comporta el mundo real. Los modelos también están sujetos a prejuicios; se construyen a partir de datos históricos, y los datos históricos casi nunca reflejan nuestros ideales de equidad y justicia. Por lo tanto, administrar y mejorar el sistema incluye un control cuidadoso, la comprensión y evaluación de las fuentes de datos y el manejo de los problemas de integración de datos que resultan. Estamos hablando de un trabajo que es mucho más técnico que un puesto típico de oficina.

Esta comprensión del «ser humano en el circuito» sugiere una interfaz de usuario que se parece más a un tablero que a un formulario web. Las personas que desempeñen esta función deberán saber cómo funciona el sistema en muchos niveles, desde el rendimiento básico (que podría medirse en acciones por segundo, el tiempo necesario para generar y comunicar una acción), hasta estadísticas agregadas sobre decisiones (cuántos usuarios están haciendo clic en los productos recomendados), a la auditoría en tiempo real de la calidad de las decisiones (si son justas o sesgadas, y si sesgadas, de qué manera).

Asimismo, todos los procesos de toma de decisiones producirán malas decisiones de vez en cuando. Para bien o para mal, eso está integrado en los cimientos de la IA. (Y como humanos, no podemos afirmar que no tomamos malas decisiones). Esas malas decisiones variarán desde simples diagnósticos erróneos, recomendaciones deficientes y errores hasta ejemplos sutiles de sesgo. No podemos cometer el error de suponer que una decisión automatizada siempre será correcta. Es posible que la toma de decisiones automatizada sea una mejora con respecto a la toma de decisiones humana; pero aún se tomarán malas decisiones. La buena noticia es que, al menos en principio, los sistemas de IA son auditables. Sabemos exactamente qué decisiones se tomaron, conocemos los datos que utilizó el sistema.

También podemos pedirle a un sistema de IA que se explique, aunque la explicabilidad sigue siendo un área de investigación activa. Necesitamos explicaciones por dos razones. El personal deberá explicar las decisiones a los clientes: a las personas nunca les ha gustado la sensación de estar interactuando con una máquina, y aunque esa preferencia puede cambiar, «eso es lo que dijo la computadora» nunca será una explicación satisfactoria. La explicación del sistema de sus decisiones debe ser concisa e inteligible. Decir que un solicitante de préstamo estaba en el lado equivocado de algún límite abstracto en un espacio de alta dimensión no es suficiente; una lista de tres o cuatro factores que afectaron la decisión satisfará a muchos usuarios. Un solicitante de préstamo necesita saber que no tiene ingresos suficientes, que tiene un historial crediticio deficiente o que el artículo que desea comprar tiene un precio excesivo. Una vez que ese razonamiento está sobre la mesa, es posible avanzar y preguntar si el sistema automatizado fue incorrecto y, a partir de ahí, cambiar la decisión. No podemos permitir que la automatización se convierta en otra forma en que la gerencia “culpe a la computadora” y evite la rendición de cuentas.

Mejorar el sistema para que dé mejores resultados requiere una explicación más técnica. ¿Es el sistema demasiado sensible a ciertos factores? ¿Fue entrenado utilizando datos sesgados e injustos? ¿Está infiriendo cualidades como el género o el origen étnico de otros datos? Las pruebas relativamente simples, como las tasas de error más altas para los grupos minoritarios, suelen ser un signo de sesgo. Los datos siempre son históricos, y la historia no puntúa muy bien en cuanto a equidad. La equidad es casi siempre una aspiración: algo que queremos que caracterice las decisiones que tomamos ahora y en el futuro. Generar resultados justos a partir de datos sesgados sigue siendo un tema de investigación, pero nuevamente, tenemos una ventaja importante: las decisiones que toman las máquinas son auditables.

Para anular una decisión automatizada, debemos considerar las interfaces para realizar dos tareas diferentes: corregir la acción y evitar que se vuelva a realizar la acción incorrecta. El primero podría ser un formulario web simple que anula la decisión original, sin importar cuánto intentemos automatizar los «formularios web simples» fuera de existencia, tienen una forma de regresar. El segundo debe retroalimentar las métricas y los tableros para monitorear el comportamiento del sistema. ¿Es necesario volver a entrenar? ¿Es una opción el entrenamiento de propósito especial para afinar el comportamiento de un modelo?

Aunque volver a entrenar un sistema de IA puede ser costoso y auditar los datos de entrenamiento es un gran proyecto, son necesarios y deben ser parte del plan. Incluso cuando no hay errores notorios, los modelos deben volver a entrenarse para seguir siendo relevantes. Por ejemplo, las recomendaciones de moda de una modelo que no se ha vuelto a entrenar en un año probablemente no sean relevantes.

Otro problema con las interfaces entre humanos y sistemas de IA surge cuando posicionamos el sistema como un «oráculo»: una voz de la verdad que brinda «la respuesta correcta». Todavía no hemos desarrollado interfaces de usuario que permitan a los usuarios discutir o discutir con una computadora; los usuarios no pueden cuestionar la autoridad. (Dichas interfaces podrían surgir del trabajo en grandes modelos de lenguaje que están realizando Google, Facebook, OpenAI, HuggingFace y otros). Piense en un sistema de diagnóstico en el consultorio de un médico. El sistema podría mirar una foto del sarpullido de un paciente y decir «Eso es hiedra venenosa». Lo mismo puede hacer un médico o una enfermera, y es probable que digan «No necesitaba una máquina costosa para decirme eso», incluso si la máquina les permite tratar a más pacientes en una hora. Pero hay un problema más profundo: ¿qué sucede si ese diagnóstico (ya sea humano o automatizado) es incorrecto? ¿Qué sucede si, después del tratamiento, el paciente regresa con la misma erupción? No se puede volver a dar el mismo diagnóstico.

Poco después de que Watson de IBM ganara Jeopardy, me invitaron a una demostración en su laboratorio. Incluía un juego corto (jugado contra empleados de IBM), pero lo que más me interesó fue cuando mostraban lo que pasaba cuando Watson daba una respuesta incorrecta. Mostraron las últimas cinco alternativas, de las cuales Watson eligió su respuesta. Este nivel no era solo una lista: incluía pros y contras para cada respuesta bajo consideración, junto con la probabilidad estimada de que cada respuesta fuera correcta. Elija la probabilidad más alta y tendrá un «oráculo». Pero si el oráculo está equivocado, la información más útil estará en la capa con las respuestas rechazadas: las otras respuestas que podrían haber sido correctas. Esa información podría ayudar al médico cuyo paciente regresa porque su hiedra venenosa era en realidad una alergia alimentaria extraña: una lista de otras posibilidades, junto con preguntas para hacer que podrían conducir a una resolución. Nuestra insistencia en los sistemas de IA como oráculos, en lugar de asistentes expertos, nos ha impedido desarrollar interfaces de usuario que respalden la colaboración y la exploración entre una computadora y un ser humano.

La automatización no se trata de reemplazar a los humanos; se trata de la colaboración entre humanos y máquinas. Un área importante de investigación para el «metaverso de la oficina» será el replanteamiento de los diseños de interfaz de usuario para los sistemas de IA. Necesitaremos mejores tableros para monitorear el desempeño de nuestros sistemas de automatización; necesitaremos interfaces que ayuden a los trabajadores a investigar y explorar áreas ambiguas; y probablemente no dejaremos de llenar formularios web, aunque si la automatización puede manejar todos los casos simples, eso podría estar bien.

Poniendolo todo junto

La hiperautomatización puede o no ser la mayor tendencia tecnológica de 2022. Ese juego de bingo de palabras de moda no es importante. Pero «automatizar todas las cosas» seguramente estará en la mente de todos los gerentes sénior. A medida que avanza en esta dirección, aquí hay algunas cosas que debe tener en cuenta:

  • Las empresas son sistemas complejos. Si bien debe comenzar con algunas tareas de automatización simples, recuerde que estas tareas simples son componentes de estos sistemas más grandes. No se limite a automatizar los procesos deficientes; aproveche la oportunidad de comprender lo que está haciendo y por qué lo está haciendo, y rediseñe su negocio en consecuencia.
  • Los humanos deben estar siempre informados. Su (nuestra) función principal no debería ser aceptar o rechazar decisiones automatizadas, sino comprender dónde tiene éxito y dónde falla el sistema, y ​​ayudarlo a mejorar.
  • La función más importante del “humano en el circuito” es la rendición de cuentas. Si una máquina toma una mala decisión, ¿quién es responsable y quién tiene la autoridad para rectificarla?
  • Las respuestas y las decisiones no surgen mágicamente de los datos. Comience por comprender los problemas comerciales que está tratando de resolver, las acciones que influirán en esos problemas y luego observe los datos que puede aportar.
  • Las empresas que comercializan soluciones de IA se centran en la tecnología. Pero la tecnología es inútil sin buenos datos, y la mayoría de las empresas no son tan ricas en datos como creen.

Si mantienes estas ideas en mente, estarás en buena forma. La IA no es mágica. La automatización no es magia. Son herramientas, medios para un fin, pero ese fin puede ser reinventar su negocio. La industria ha hablado durante mucho tiempo sobre la transformación digital, pero pocas empresas realmente lo han hecho. Esta es tu oportunidad de empezar.


Un agradecimiento especial a Jennifer Stirrup, Lorien Pratt y Donald Farmer por las conversaciones sobre hiperautomatización, inteligencia de decisiones y automatización de decisiones comerciales. Sin ellos, este artículo no hubiera sido posible. Los tres tienen próximos libros de O’Reilly. donald granjero Analítica embebida está actualmente disponible en Early Release, y Lorien Pratt tiene una vista previa de El manual de inteligencia de decisiones en su sitio web.



Fuente del artículo

Deja un comentario