Las empresas se están subiendo al tren de crear algo, cualquier cosa que puedan lanzar como una característica o producto de “IA generativa”. ¿Qué está impulsando esto y por qué es un problema?
Recientemente me estaba poniendo al día con números anteriores de Money Stuff, el indispensable boletín/blog de Matt Levine en Bloomberg, y había un artículo interesante sobre cómo los algoritmos de selección de acciones de IA en realidad no favorecen a las acciones de IA (y tampoco realizan todo ese bien en las selecciones que hacen). Vaya a leer Money Stuff para obtener más información al respecto.
Pero uno de los puntos señalados junto con ese análisis fue que las empresas de todo el panorama económico están atrapadas por el FOMO en torno a la IA. Esto conduce a una variedad semi-cómica de aplicaciones de lo que somos. dijo es IA.
“Algunas empresas dicen que están utilizando IA cuando en realidad solo están tratando de descubrir los conceptos básicos de la automatización. Los pretendientes serán descubiertos por eso en algún momento”, dijo. …
La empresa de moda y confección Ralph Lauren describió a principios de este mes la IA como “una parte realmente importante de nuestro… . . viaje de crecimiento de ingresos”. Cadenas de restaurantes como Yum Brands, propietario de KFC, y Chipotle, han promocionado la tecnología impulsada por inteligencia artificial para mejorar la eficiencia de los pedidos de ingredientes o ayudar a preparar chips de tortilla.
Varias empresas relacionadas con el turismo, como Marriott y Norwegian Cruise Line, dijeron que están trabajando en sistemas impulsados por inteligencia artificial para hacer que procesos como la reserva sean más eficientes y personalizados.
Ninguno de los ejemplos anteriores hizo referencia a la IA en sus presentaciones trimestrales más recientes, aunque Ralph Lauren sí señaló algunas iniciativas en términos generales en su informe anual de mayo.
(de Money Stuff, pero estaba citando al Financial Times)
Para mí, esto tiene razón, aunque no estoy tan seguro de que vayan a quedar atrapados. Admito, también, que muchas empresas están empleando IA generativa (por lo general, productos disponibles en los estantes de las grandes empresas de desarrollo), pero rara vez son lo que alguien realmente necesita o quiere; en cambio, simplemente están tratando de entrar. en el nuevo momento candente.
Sin embargo, pensé que podría ser útil hablar sobre cómo sucede todo esto. Cuando alguien decide que su empresa necesita “innovación en IA”, ya sea IA generativa o no, ¿qué está pasando realmente?
Revisemos qué es realmente la IA antes de continuar. Como sabrán los lectores habituales, yo en realidad Odio cuando la gente utiliza el término “IA” descuidadamente, porque la mayoría de las veces no saben en absoluto lo que quieren decir con esto. Prefiero ser más específico, o al menos explicar lo que quiero decir.
Para mí, la IA es cuando utilizamos estrategias de aprendizaje automático, a menudo, pero no siempre, aprendizaje profundo, para construir modelos o combinaciones de modelos que puedan completar tareas complejas que normalmente requerirían capacidades humanas. ¿Cuándo un modelo de aprendizaje automático se vuelve lo suficientemente complejo como para llamarlo IA? Ésa es una pregunta muy difícil y hay mucho desacuerdo al respecto. Pero este es mi marco: el aprendizaje automático es la técnica que utilizamos para crear IA, y el aprendizaje automático es un gran paraguas que incluye el aprendizaje profundo y muchas otras cosas. El campo de la ciencia de datos es una especie de paraguas aún más grande que puede incluir parte o la totalidad del aprendizaje automático, pero también incluye muchas otras cosas.
La IA es cuando utilizamos estrategias de aprendizaje automático, a menudo aprendizaje profundo, para construir modelos o combinaciones de modelos que puedan completar tareas complejas que normalmente requerirían capacidades humanas.
Hay otra subcategoría, la IA generativa, y creo que cuando la mayoría de los profanos hoy en día hablan de IA, en realidad es a eso a lo que se refieren. Esos son sus LLM, generación de imágenes, etc. (consulte mis publicaciones anteriores para obtener más información sobre todo eso). Si, digamos, un motor de búsqueda es técnicamente IA, lo que se podría argumentar, definitivamente no es IA generativa, y si hoy en día le preguntas a alguien en la calle si un simple motor de búsqueda es IA, probablemente no lo creería.
Analicemos un ejemplo, para ayudar quizás a aclarar un poco sobre las automatizaciones y lo que las hace no necesariamente IA. Un chatbot de respuesta a preguntas es un buen ejemplo.
Por un lado, tenemos una automatización bastante básica, algo que hemos tenido durante mucho tiempo.
- El cliente coloca una pregunta o una palabra de búsqueda en un cuadro emergente en su sitio web.
- Una aplicación que analiza esta pregunta o conjunto de palabras y elimina las palabras vacías (a, and, the, etc., una simple función de tipo de búsqueda y reemplazo)
- Luego, la aplicación coloca los términos restantes en un cuadro de búsqueda y devuelve los resultados de esa búsqueda en su base de datos/Preguntas frecuentes/wiki al cuadro emergente de chat.
Ésta es una aproximación muy aproximada de la antigua forma de hacer estas cosas. A la gente no le encanta y si pides algo incorrecto, te quedas estancado. Es básicamente un LMGTFY*. Esta herramienta ni siquiera imita el tipo de estrategia de respuesta o resolución de problemas que podría utilizar un ser humano.
Por otro lado, ahora podríamos tener un equivalente de ChatGPT:
- El cliente coloca una pregunta o una palabra de búsqueda en un cuadro emergente en su sitio web.
- El LLM detrás de escena absorbe la entrada del cliente como un mensaje, lo interpreta y devuelve una respuesta de texto basada en las palabras, sus incrustaciones sintácticas y el entrenamiento del modelo para producir respuestas extremadamente “humanas”.
Esto significará algunos grandes aspectos positivos. Primero, el LLM conoce no solo las palabras que usted le envió, sino también qué OTRAS palabras tienen significados y asociaciones similares según las incrustaciones de tokens aprendidas, por lo que podrá ir más allá de las palabras exactas utilizadas al responder. Si pregunta sobre “comprar una casa”, puede vincularlo con “bienes raíces” o “hipoteca” o “precios de la vivienda”, aproximadamente porque los textos en los que se ha entrenado mostraban esas palabras en contextos similares y cerca uno del otro.
Además, la respuesta probablemente será mucho más agradable de leer y consumir para el cliente en el sitio web, haciendo que su experiencia con su empresa sea estéticamente mejor. Los resultados de este modelo tienen más matices y son mucho, mucho más complicados que los del chatbot de la vieja escuela.
Sin embargo, debemos recordar que el LLM no conoce ni se preocupa por la exactitud o actualidad de la información. Recuerde mis comentarios en publicaciones anteriores sobre qué es un LLM y cómo se entrena: no se trata de aprender sobre precisión fáctica, sino solo de producir texto que se parezca mucho a lo que los humanos escriben y a lo que a los humanos les gusta recibir. Los hechos pueden ser exactos, pero hay muchas posibilidades de que no lo sean. En el primer ejemplo, por otro lado, usted tiene control total sobre todo lo que posiblemente pueda ser devuelto desde su base de datos.
Para un usuario promedio de su sitio web, es posible que esto no se sienta drásticamente diferente desde el principio: la respuesta puede ser más agradable y puede hacerlos sentir “comprendidos”, pero no tienen idea de que las respuestas conllevan un mayor riesgo. de inexactitud en la versión LLM. Técnicamente, si vamos al grano, ambos automatizan el proceso de responder las preguntas de los clientes, pero solo uno es una herramienta de IA generativa para hacerlo.
Nota al margen: no voy a entrar en la diferencia entre AGI (inteligencia general artificial) e IA especializada en este momento, aparte de decir que AGI no existe, en este momento, y cualquiera que le diga que sí existe está equivocado. . Es posible que cubra más esta pregunta en una publicación futura.
Entonces, continuemos nuestra conversación original. ¿Qué lleva a una empresa a incluir alguna automatización básica o un envoltorio para ChatGPT en un comunicado de prensa y llamarlo su nuevo producto de IA? ¿Quién impulsa esto y qué piensan realmente? Mi teoría es que hay tres caminos esenciales que nos llevan hasta aquí.
- Quiero relaciones públicas: Un ejecutivo ve que se está produciendo el ciclo de exageración y quiere atraer la atención de los medios para su empresa, por lo que pide a sus equipos que creen algo que puedan vender como IA. (O volver a etiquetar algo que ya tienen como IA). Es posible que sepan o no, o les importe, si se trata realmente de IA generativa.
- Quiero magia: Un ejecutivo escucha algo en las noticias o en los medios sobre la IA y quiere que su negocio tenga las ventajas que cree que su competencia obtiene de la IA. Vienen a la oficina y dirigen a sus equipos para que construyan algo que proporcione la beneficios de IA. Me sorprendería que este ejecutivo realmente supiera la diferencia entre IA generativa y una automatización más simple.
Nada de esto excluye necesariamente la idea de que una buena herramienta de IA generativa pueda terminar existiendo, por supuesto: ¡ya existen muchas! Pero cuando partimos de la presunción de “Necesitamos utilizar esta tecnología para algo” y no desde “Necesitamos resolver este problema real”, estamos abordando el proceso de desarrollo de una manera totalmente equivocada.
Pero vamos, ¿qué hay de malo en todo esto? ¿Realmente importa, o es solo material para algunas buenas bromas entre científicos de datos sobre la última y loca característica de “IA” que alguna compañía ha lanzado? Yo diría que sí importa (aunque a menudo también es material para buenos chistes).
Como científicos de datos, creo que este fenómeno debería perturbarnos un poco, por un par de razones.
Primero, esta cultura devalúa nuestras contribuciones reales. La ciencia de datos solía ser el trabajo más atractivo que existe, o eso nos decían muchas portadas de revistas, pero afortunadamente nos estamos adaptando a un lugar mucho más tranquilo, más estable y menos llamativo. Los equipos y departamentos de ciencia de datos brindan un valor sólido y confiable a sus negocios al determinar cómo se puede administrar el negocio de manera eficiente y efectiva. Descubrimos a quién comercializar y cuándo; decimos a las empresas cómo organizar sus cadenas de suministro y almacenes; Identificamos oportunidades de productividad a través de cambios en sistemas y procesos. En lugar de “así es como siempre lo hemos hecho”, ahora podemos encontrar la mejor manera de hacer las cosas, utilizando datos, en todas nuestras empresas. A veces creamos productos o funciones completamente nuevos para mejorar las ventas de nuestras empresas. ¡Es un trabajo increíblemente valioso! Ve a ver mi artículo sobre el Arquetipos del rol de la ciencia de datos si no estás convencido.
Todo esto que hacemos no es menos valioso ni menos importante si no se trata de IA generativa. Hacemos mucho trabajo de aprendizaje automático que probablemente no alcance el misterioso límite de la complejidad de la IA en sí, pero todo eso sigue ayudando a las personas y generando un impacto.
En segundo lugar, simplemente estamos alimentando este estúpido ciclo de exageración al llamar a todo lo que es IA. Si llamas IA a tu regresión lineal, también estás apoyando una carrera hacia el fondo en términos de lo que significa la frase. La frase va a morir de mil cortes si la usamos para referirnos a absolutamente todo. Quizás esté bien, sé que ciertamente estoy listo para dejar de escuchar la frase “inteligencia artificial” en cualquier momento. Pero, en principio, quienes estamos en el campo de la ciencia de datos conocer mejor. Creo que tenemos al menos cierta responsabilidad de utilizar correctamente los términos de nuestro comercio y resistir la presión de dejar que los significados se conviertan en papilla.
En tercer lugar, y creo que posiblemente lo más importante, el tiempo que dedicamos a complacer las demandas de personas fuera del campo construyendo cosas para producir relaciones públicas de IA le quita tiempo al valor real que podríamos estar creando. Mi convicción es que los científicos de datos deberían crear cosas que mejoren la vida de las personas y les ayuden a hacer las cosas que necesitan hacer. Si estamos construyendo una herramienta, utilice IA o no, que nadie necesita y que no ayuda a nadie, es una pérdida de tiempo. No hagas eso. Es casi seguro que sus clientes realmente necesitan algo (¡mire su acumulación de tickets!), y usted debería hacerlo en su lugar. No hagas proyectos sólo porque “necesitas algo con IA”, haz proyectos porque satisfacen una necesidad y tienen un propósito real.
Cuando los ejecutivos de las empresas llegan por la mañana y deciden “necesitamos funciones de IA”, ya sea para relaciones públicas o para Magic, no se basa en comprender estratégicamente lo que su empresa realmente necesita o los problemas que realmente debe resolver para sus clientes. . Ahora, sé que como científicos de datos no siempre estamos en condiciones de rechazar los mandatos ejecutivos, incluso cuando son un poco tontos, pero realmente me gustaría ver que más empresas retrocedan un momento y piensen si una herramienta de IA generativa es, de hecho, la solución adecuada a un problema real en su negocio. Si no, tal vez simplemente quédese quieto y espere hasta que el problema surja. La IA generativa no irá a ninguna parte, estará ahí cuando realmente la necesites. Mientras tanto, siga utilizando todas las técnicas probadas y verdaderas de ciencia de datos reales y aprendizaje automático que ya tenemos, pero no pretenda que ahora son “IA” para obtener clics o presionar.
Ver más de mi trabajo en www.stephaniekirmer.com.