La inteligencia artificial está en todas partesdesde las recomendaciones en nuestras redes sociales, hasta el autocompleto del texto en nuestros correos electrónicos. IA generativa Crea texto original, imágenes, audio e incluso video basados en patrones que se identifica en los datos utilizados para crearlo. Los chatbots de IA, o la IA interactiva, convierten esto en un poder predictivo que ataca el texto para crear conversaciones en forma de humano, respondiendo las preguntas de los usuarios y ofreciendo un compromiso personalizado.
Cada vez más, Los adolescentes están usando IA generativapopularizado por plataformas como ChatGPT. Según un informe de la organización sin fines de lucro, el sentido común, El 72 por ciento de los adolescentes ha usado compañeros de IAo chatbots diseñados para tener conversaciones personales o emocionalmente de apoyo, y más de la mitad de los adolescentes los usan regularmente.
Soy un psicólogo que estudia cómo la tecnología afecta a los niños. Recientemente, fui parte de un panel asesor de expertos convocado por la American Psychological Association (APA) para explorar qué efectos pueden tener estas herramientas en el bienestar de los adolescentes.
Sobre el apoyo al periodismo científico
Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado con suscripción. Al comprar una suscripción, está ayudando a garantizar el futuro de las historias impactantes sobre los descubrimientos e ideas que dan forma a nuestro mundo hoy.
La verdad? Todavía estamos aprendiendo.
El paisaje de IA está evolucionando rápidamente, y los investigadores están luchando para ponerse al día. ¿AI creará una nueva frontera para apoyar el bienestar de los adolescentes, con oportunidades de apoyo emocional personalizado, aprendizaje activo y exploración creativa? ¿O saldrá desplazando sus conexiones sociales de la vida real, los expondrá a contenido dañino y alimentan la soledad y el aislamiento?
Es probable que la respuesta sea: todo lo anterior, dependiendo de cómo estén diseñadas las plataformas AI y cómo se usen. Entonces, ¿por dónde empezamos? ¿Y qué podemos nosotros (padres, educadores, legisladores, diseñadores de IA) para apoyar el bienestar de los jóvenes en estas plataformas?
El panel APA hizo un serie de recomendaciones en un nuevo informe. Esto es lo que creemos que los padres necesitan saber.
La IA para adolescentes debe hacerse de manera diferente a la IA para adultos
Muy a menudo, en el desarrollo de nuevas tecnologías, no pensamos con anticipación sobre cómo los niños podrían usarla. En cambio, corremos para crear productos centrados en adultos y esperamos una adopción generalizada. Luego, años más tarde, tratamos de adaptar las salvaguardas sobre estos productos para que sean más seguros para los adolescentes.
Al igual que con otras nuevas tecnologías, como los teléfonos inteligentes y las redes sociales, la carga para manejar estas herramientas no puede descansar solo en los padres. No es una pelea justa. Esto es responsabilidad de todos, incluidos legisladores, educadores y, por supuesto, de las propias empresas tecnológicas.
Con IA, tenemos la oportunidad de diseñar, específicamente, para los jóvenes desde el principio. Por ejemplo, las compañías de IA podrían tener como objetivo limitar la exposición de los adolescentes al contenido dañino, trabajar con expertos en desarrollo para crear experiencias apropiadas para la edad, limitar las características diseñadas para mantener a los niños utilizando las plataformas más largas, facilitar los problemas de informar (como las conversaciones inapropiadas o las preocupaciones de salud mental) y regularmente reas reminentes los límites de los chat de IA (por ejemplo, que la información de los chatbots de los chatbots puede ser inacco y que no deberían reemplazar las ventajas humanas). Las plataformas de IA también deben tomar medidas para proteger la privacidad de los datos de los adolescentes, asegurarse de que las semejanzas de los jóvenes (sus imágenes y voces) no sean mal utilizadas y crear controles de los padres efectivos y fáciles de usar.
Los niños necesitan aprender qué es la IA y cómo usarla de manera segura, comenzando en la escuela. Esto comienza con la educación básica sobre cómo funcionan los modelos de IA, cómo usar AI de manera segura y responsable de manera que no cause daño, cómo detectar información falsa o contenido generado por IA y qué consideraciones éticas existen. Los maestros necesitarán orientación sobre cómo enseñar sobre estos temas y los recursos para hacerlo, un esfuerzo que requerirá la colaboración de los responsables políticos, los desarrolladores tecnológicos y los distritos escolares.
Hablar temprano y hablar a menudo
Como padre, las conversaciones sobre IA con adolescentes pueden parecer desalentadoras. ¿Qué temas deberías cubrir? ¿Dónde deberías empezar? Primero, pruebe algunas de estas plataformas para usted: obtenga una idea de cómo funcionan, dónde pueden tener limitaciones y por qué su hijo podría estar interesado en usarlas.
Luego considere estos temas clave de conversación:
Las relaciones humanas importan
Del 72 por ciento de los adolescentes que han usado compañeros de IA, el 19 por ciento dice que pasan el mismo tiempo o más con ellos como lo hacen con sus verdaderos amigos. A medida que la tecnología mejora, esta tendencia puede volverse más generalizada, y los adolescentes que ya son socialmente vulnerables o solitarios pueden tener un mayor riesgo de permitir que las relaciones de chatbot interfieran con las de la vida real.
Hable con los adolescentes sobre los límites de los compañeros de inteligencia artificial en comparación con las relaciones humanas, incluida la cantidad de modelos de IA diseñados para mantenerlos en la plataforma más tiempo a través de la adulación y la validación. Pregúnteles si han usado AI para tener conversaciones significativas y qué tipo de temas han discutido. Asegúrese de que tengan muchas oportunidades para interacciones sociales en persona con amigos y familiares de la vida real. Y recuérdeles que estas relaciones humanas, no importa cuán incómodas, desordenadas o complicadas, valgan la pena.
Use AI para bien
Cuando se usa bien, las herramientas de IA pueden ofrecer Oportunidades increíbles para el aprendizaje y descubrimiento. Muchos adolescentes ya han experimentado algunos de estos beneficios, y este puede ser un buen lugar para comenzar las conversaciones. ¿Dónde han encontrado que la IA es útil?
Pregunte cómo sus escuelas se acercan a la IA cuando se trata del trabajo escolar. ¿Conocen los niños las políticas de sus maestros al usar IA con la tarea? ¿Han usado IA en el aula? Queremos alentar a los adolescentes a usar IA para apoyo Aprendizaje activo: estimulando el pensamiento crítico y la profundización en los conceptos que están interesados, en lugar de reemplazar el pensamiento crítico.
Ser un consumidor crítico de IA
Los modelos de IA no siempre acerquen las cosas, y esto puede ser especialmente problemático cuando se trata de salud. Los adolescentes (y adultos) con frecuencia obtienen información sobre la salud física y mental en línea. En algunos casos, pueden estar dependiendo de la IA para las conversaciones que habrían tenido lugar previamente con un terapeuta, y esos modelos pueden no responder adecuadamente a las revelaciones en torno a temas como la autolesión, la alimentación desordenada o los pensamientos suicidas. Es importante que los adolescentes sepan que cualquier consejo, “diagnóstico” o recomendaciones que provengan de los chatbots deben ser verificados por un profesional. Puede ser útil para los padres enfatizar que los chatbots de IA a menudo están diseñados para ser persuasivos y autorizados, por lo que es posible que necesitemos resistir activamente el impulso de tomar sus respuestas al valor nominal.
Las recomendaciones de APA también destacan los riesgos asociados con el contenido generado por IA, que los adolescentes pueden crearse o encontrarse a través de las redes sociales. Tal contenido puede no ser confiable. Podría ser violento o dañino. Podría, en el caso de Deepfakes, estar en contra de la ley. Como padres, podemos recordar a los adolescentes que sean consumidores críticos de imágenes y videos y que siempre revisen la fuente. También podemos recordarles que nunca creen o distribuyan imágenes docatoradas de AI de sus compañeros, lo cual no solo no es ético sino también, en algunos estados, ilegal.
Cuidado con el contenido dañino
Con pocas salvaguardas para los usuarios más jóvenes, los modelos de IA pueden producir contenido que afecte negativamente la seguridad y el bienestar de los adolescentes. Esto podría incluir texto, imágenes, audio o videos que son inapropiados, peligrosos, violentos, discriminatorios o sugerentes de violencia.
Si bien los desarrolladores de IA tienen un papel crucial que desempeñar para hacer que estos sistemas sean más seguros, como padres, también podemos tener conversaciones regulares con nuestros hijos sobre estos riesgos y establecer límites en su uso. Hable con los adolescentes sobre qué hacer si se encuentran con algo que los incomode. Discuta los usos apropiados e inapropiados para la IA. Y cuando se trata de comunicación sobre la IA, trate de mantener las puertas abiertas manteniéndose curiosidad y sin juicio.
La IA está cambiando rápidamente, y se necesitan estudios científicos rigurosos para comprender mejor sus efectos en el desarrollo de los adolescentes. Las recomendaciones de APA concluyen con una llamada para priorizar y financiar esta investigación. Pero solo porque hay mucho que aprender, eso no significa que debamos esperar para actuar. Empiece a hablar con sus hijos sobre AI ahora.
Si necesitas ayuda
Si usted o alguien que conoce está luchando o tiene pensamientos suicidas, la ayuda está disponible. Llame o envíe un mensaje de texto al 988 suicidio y crisis Lifeline al 988 o use el en línea Chat de Lifeline.