Bajar (versión del colesterol)
Un tratamiento genético experimental llamado VERVE-101 puede desactivar un gen que eleva el colesterol en personas con hipercolesterolemia. Meghan Rosen reportado en “La edición de bases puede reducir el colesterol“(SN: 27/01/24, pág. 8).
rosa escribió que los investigadores están realizando pruebas para ver qué dosis de VERVE-101 es más efectiva. Dado que el tratamiento edita un gen, el lector Linda Ferrazzara Me pregunté por qué es importante la dosis.
Una dosis demasiado baja puede significar que no llegue suficiente VERVE-101 al hígado, donde desactiva el gen. rosa dice. Si muy pocas células tienen el gen desactivado, los pacientes no experimentarán los efectos reductores del colesterol del fármaco. Si los niveles de colesterol permanecen altos después de un tratamiento inicial, una segunda infusión del medicamento puede ayudar. rosa dice. Pero los desarrolladores prefieren que el tratamiento sea de una sola dosis.
Lector Jack Miller preguntó si VERVE-101 afecta a las células germinales, que dan lugar a los espermatozoides y los óvulos.
En ratones, los científicos han descubierto que la mayor parte del fármaco termina en el hígado y nada llega a la línea germinal. rosa dice. La descendencia de los ratones tratados tampoco se ve afectada por el fármaco. Entonces, si los hijos de los pacientes tratados también tienen hipercolesterolemia, esos niños seguirían necesitando su propio tratamiento, afirma.
Etiqueta de IA
Para desarrollar mejores salvaguardias, los científicos están estudiando cómo las personas han engañado a los chatbots de IA para que respondan preguntas dañinas que la IA ha sido entrenada para rechazar, como cómo construir un arma peligrosa. Emily Conover reportado en “Los chatbots se portan mal“(SN: 27/01/24, pág. 18).
Lector Linda Ferrazzara Se preguntó si los chatbots de IA han sido entrenados en otros idiomas además del inglés.
Los chatbots de IA como ChatGPT se basan en grandes modelos de lenguaje, o LLM, un tipo de IA generativa que normalmente se entrena en grandes extensiones de contenido de Internet. Muchos de los LLM más importantes y capaces en este momento están diseñados para angloparlantes, Conover dice. Aunque esos LLM tienen cierta capacidad para escribir en otros idiomas, la mayoría de sus datos de formación están en inglés. Pero existen modelos lingüísticos diseñados para utilizar otros idiomas, afirma. Hasta ahora, los esfuerzos se han centrado en idiomas ampliamente hablados y escritos, y para los cuales se dispone de grandes cantidades de datos de formación, como el mandarín.
Ferrazzara También se preguntó si aumentar la potencia informática podría ayudar a los robots a defenderse mejor contra los engaños.
Los LLM ya utilizan una gran cantidad de potencia informática, y solo aumentará a medida que la gente los utilice cada vez más. Conover dice. Pero incluso si un aumento de energía facilitara el establecimiento de salvaguardias, debemos reconocer que las emisiones de gases de efecto invernadero vinculadas a tales cálculos que consumen mucha energía contribuyen al cambio climático, afirma. “El tiempo y la energía necesarios para responder a una consulta de chatbot no es algo que queramos pasar por alto mientras esperamos que las computadoras mejoren”.
Muchas de las técnicas defensivas descritas en la pantalla de la historia son preguntas dañinas. Lector Mike Speciner Se preguntó si sería más fácil filtrar las respuestas a esas preguntas.
Algunos filtros como este ya se aplican en algunos chatbots, Conover dice. Por ejemplo, Bing AI de Microsoft tiende a cortar sus respuestas si se adentra en territorio prohibido. Estos filtros son más generales y no están dirigidos específicamente a un tipo de ataque. “Para evitar que se escapen cosas malas, pueden lanzar una red demasiado amplia, filtrando respuestas inocuas y peligrosas y empeorando la experiencia del usuario”. Conover dice. Es más, un atacante que sepa cómo funciona el autofiltrado del LLM puede encontrar una manera de engañar a ese filtro.
Corrección
“Salvando vidas con inyección segura” describió incorrectamente a Elizabeth Samuels de UCLA como epidemióloga y médica de emergencia (SN: 10/02/24, pág. dieciséis). Es médica de urgencias y medicina de adicciones. Esa historia también afirmaba erróneamente que el consultor en políticas de drogas Edward Krumpotich ayudó a redactar la legislación de 2023 en Minnesota que autorizó la financiación de un centro de prevención de sobredosis. Abogó por esa legislación pero no ayudó a redactarla.