Ai fomo, shadow ai y otros problemas comerciales

Me he encontrado con algunas noticias interesantes sobre cómo está progresando la industria de la IA. Parece que una desaceleración en este espacio definitivamente está en el horizonte, si aún no ha comenzado. (No ser economista, no diré burbuja, pero hay muchas opiniones por ahí.) GPT-5 salió el mes pasado y decepcionado a todosaparentemente Incluso los ejecutivos de Openai. Meta hizo un pivote muy repentino y está reorganizando toda su función de IA, cesar toda contratacióninmediatamente después de poner fondos aparentemente ilimitados en el reclutamiento y cortejar el talento en el espacio. Microsoft parece ser ralentizar su inversión en hardware de IA (Paywall).

Esto no quiere decir que ninguno de los principales jugadores dejará de invertir en IA, por supuesto. La tecnología no está demostrando resultados espectaculares o se acerca a cualquier cosa incluso remotamente como AGI, que muchos analistas y escritores (Incluyendo a mí) había predicho que no lo haría, pero todavía hay un nivel de utilización entre las empresas y las personas que persisten, por lo que hay algún incentivo para seguir avanzando.

La tasa de éxito del 5%

En esta línea, leí el Nuevo informe del MIT sobre AI en los negocios con gran interés esta semana. Se lo recomiendo a cualquiera que esté buscando información real sobre cómo la adopción de AI va de los trabajadores regulares y de la C-suite. El informe tiene algunas conclusiones principales, incluida la afirmación de que solo el 5% de las iniciativas de IA en el entorno comercial generan un valor significativo, lo que ciertamente puedo creer. (Además, la IA en realidad no está tomando el trabajo de las personas en la mayoría de las industrias, y en varias industrias, la IA no tiene un gran impacto). Muchas empresas, al parecer, se han sumergido para adoptar la IA sin tener un plan estratégico para lo que se supone que debe hacer, y cómo esa adopción realmente les ayudará a alcanzar sus objetivos.

Veo esto mucho, en realidad: los ejecutivos que están significativamente separados del trabajo diario de su organización que FOMO se apoderan de la IA, decidiendo que la IA debe formar parte de su negocio, pero no retroceder y considerando cómo esto encaja con el negocio que ya tienen y el trabajo que ya hacen.

Destornillador o varita mágica?

Los lectores regulares sabrán que no estoy argumentando que la IA no pueda o no debe usarse cuando puede cumplir un propósito, por supuesto. ¡Nada de eso! Construyo soluciones basadas en inteligencia artificial a los problemas comerciales en mi propia organización todos los días. Sin embargo, creo firmemente que la IA es una herramienta, no magia. Nos da formas de realizar tareas que no sean de trabajo para trabajadores humanos y que puedan acelerar la velocidad de las tareas que de otro modo tendríamos que hacer manualmente. Puede hacer que la información sea más clara y ayudarnos a comprender mejor documentos y textos largos.

Sin embargo, lo que no hace es hacer que el éxito comercial sea por sí mismo. Para formar parte del 5% y no del 95%, cualquier aplicación de IA debe basarse en el pensamiento y la planificación estratégica, y lo más importante es que las expectativas de ojos claros sobre de qué es capaz la IA y qué no es. Pequeños proyectos que mejoran procesos particulares pueden tener grandes rendimientos, sin tener que apostar por una agitación masiva o “revolucionar” del negocio, a pesar de que no son tan glamorosos o productoras de titulares como la exageración. El informe del MIT discute cómo el gran número de proyectos comienzan como pilotos o experimentación, pero en realidad no se fructan en la producción, y diría que gran parte de esto se debe a que la planificación o las expectativas de ojos claros no estaban presentes.

Los autores pasan una cantidad significativa de tiempo señalando que muchas herramientas de IA se consideran inflexibles y/o incompatibles con los procesos existentes, lo que resulta en la falta de adopción entre los rango y el archivo. Si construye o compra una solución de IA que no puede funcionar con su negocio tal como existe hoy, está tirando su dinero. O la solución debería haber sido diseñada con su negocio en mente y no fue, lo que significa un fracaso de la planificación estratégica, o no puede ser flexible o compatible de la manera que necesita, y AI simplemente no fue la solución correcta en primer lugar.

Seguridad comercial para la versatilidad

Sobre el tema de la flexibilidad, pensé adicional mientras leía. Los autores del MIT enfatizan que las herramientas internas que las empresas ofrecen a sus equipos a menudo “no funcionan” de una forma u otra, pero en realidad gran parte de la rigidez y los límites establecidos en las herramientas de LLM internas se deben a la seguridad y la prevención de riesgos. Los desarrolladores no crean herramientas no funcionales a propósito, pero tienen limitaciones y requisitos para cumplir. En resumen, hay una compensación aquí que no podemos evitar: cuando su LLM está extremadamente abierto y tiene pocas o ninguna barandilla, parece que le permite al usuario hacer más o responderá más preguntas, porque hace exactamente eso. Pero lo hace a un costo significativo posible, potencialmente responsabilidad, dando información falsa o inapropiada, o peor.

Por supuesto, los usuarios regulares probablemente no piensen en este ángulo cuando sacan la aplicación CHATGPT en su teléfono con su cuenta personal durante el día de trabajo, solo están tratando de hacer sus trabajos. Las comunidades infosec están alarmadas correctamente por este tipo de cosas, que algunos círculos están llamando “Shadow Ai“En lugar de sombra. Los riesgos de este comportamiento pueden ser catastróficos: los datos de la compañía propiedad que se entregan a una solución de IA libremente, sin supervisión, por decir nada de cómo se puede utilizar la producción en la empresa. Este problema es realmente difícil de resolver. La educación de los empleados, en todos los niveles de la organización, es un paso obvio, pero es probable que algún grado de esta sombra ai sea perseguir, y los equipos de seguridad son estrustando con esto, como logemos. Por lo que hablamos.

Conclusión

Creo que esto nos deja en un momento interesante. Creo que los ganadores en la carrera de ratas AI serán aquellos que fueron atentos y cuidadosos, aplicando soluciones de IA de manera conservadora, y no tratar de aumentar su modelo de éxito que ahora ha trabajado hasta perseguir una nueva cosa brillante. Un enfoque lento y estable puede ayudar a protegerse contra los riesgos, incluida la reacción de los clientes contra la IA, así como muchos otros.

Antes de cerrar, solo quiero recordarles a todos que estos intentos de construir el equivalente de un palacio cuando un condominio funcionaría bien con consecuencias tangibles. Sabemos que Elon Musk está contaminando los suburbios de Memphis con impunidad al ejecutar centros de datos alimentados por el generador de gases ilegales. Los centros de datos están ocupando porcentajes de dos dígitos de toda la energía generado en algunos estados de los Estados Unidos. Los suministros de agua son Estar agotado o contaminado por estos mismos centros de datos que sirven aplicaciones de IA a los usuarios. Recordemos que las elecciones que hacemos no son abstractas, y sean conscientes de cuándo usamos la IA y por qué. El 95% de los proyectos de IA fallidos no solo eran caros en términos de tiempo y dinero gastado por las empresas, nos costó a todos algo.

Leer más de mi trabajo en www.stephaniekirmer.com.