TL;DR
En este artículo, exploramos cómo crear un agente de IA conversacional utilizando datos sobre el cambio climático de la excelente Futuros probables API y la nueva API de asistentes OpenAI. El agente de IA puede responder preguntas sobre cómo el clima podría afectar una ubicación específica y también realizar análisis de datos básicos. Los asistentes de IA pueden ser adecuados para tareas como esta, proporcionando un canal prometedor para presentar datos complejos a usuarios no técnicos.
Hace poco estuve charlando con un vecino sobre cómo el cambio climático podría afectarnos y cuál es la mejor manera de preparar los hogares para eventos climáticos extremos. Hay algunos sitios web increíbles que brindan información relacionada con esto en forma de mapas, pero me preguntaba si a veces la gente simplemente querría hacer preguntas como “¿Cómo se verá afectada mi casa por el cambio climático?” y “¿Qué puedo hacer al respecto?” y obtenga un resumen conciso con consejos sobre cómo prepararse. Entonces decidí explorar algunas de las herramientas de inteligencia artificial que estuvieron disponibles en las últimas semanas.
Agentes de IA impulsados por grandes modelos de lenguaje como GPT-4 están surgiendo como una forma para que las personas interactúen con documentos y datos a través de la conversación. Estos agentes interpretan lo que la persona pregunta, llaman a API y bases de datos para obtener datos, generan y ejecutan código para realizar análisis, antes de presentar los resultados al usuario. Marcos brillantes como cadena larga y autógeno están liderando el camino, proporcionando patrones para agentes de fácil implementación. Recientemente, OpenAI se unió a la fiesta con el lanzamiento de GPT como una forma sin código de crear agentes, que exploré en Este artículo. Están muy bien diseñados y abren el camino a un público mucho más amplio, pero tienen algunas limitaciones. Requieren una API con una especificación openapi.json, lo que significa que actualmente no admiten estándares como graficoql. Tampoco admiten la capacidad de registrar funciones, lo cual es de esperar en una solución sin código, pero puede limitar sus capacidades.
Ingrese al otro lanzamiento reciente de OpenAI: API de asistentes.
Assistants API (en beta) es una forma programática de configurar OpenAI Assistants que admite funciones, navegación web y recuperación de conocimientos a partir de documentos cargados. Las funciones suponen una gran diferencia en comparación con los GPT, ya que permiten una interacción más compleja con fuentes de datos externas. Las funciones son donde los modelos de lenguajes grandes (LLM) como GPT-4 se dan cuenta de que alguna entrada del usuario debería resultar en una llamada a una función de código. El LLM generará una respuesta en formato JSON con los parámetros exactos necesarios para llamar a la función, que luego se puede usar para ejecutar localmente. Para ver cómo funcionan en detalle con OpenAI, consulte aquí.
Para que podamos crear un agente de IA que nos ayude a prepararnos para el cambio climático, necesitamos una buena fuente de datos sobre el cambio climático y una API para extraer esa información. Cualquier recurso de este tipo debe aplicar un enfoque riguroso para combinar las predicciones del Modelo de Circulación General (GCM).
Por suerte, la gente de Futuros probables ¡Has hecho un trabajo increíble!
Futuros probables es “Una iniciativa de alfabetización climática sin fines de lucro que pone herramientas prácticas, historias y recursos disponibles en línea para todos, en todas partes.”, y proporcionan una serie de mapas y datos basados en el marco CORDEX-CORE, una estandarización para los resultados de los modelos climáticos regionales REMO2015 y REGCM4. [ Side note: I am not affiliated with Probable Futures ]
Es importante destacar que proporcionan una API GraphQL para acceder a estos datos a los que pude acceder después solicitando una clave API.
Residencia en la documentación Creé funciones que guardé en un archivo. assistant_tools.py …
pf_api_url = "https://graphql.probablefutures.org"
pf_token_audience = "https://graphql.probablefutures.com"
pf_token_url = "https://probablefutures.us.auth0.com/oauth/token"def get_pf_token():
client_id = os.getenv("CLIENT_ID")
client_secret = os.getenv("CLIENT_SECRET")
response = requests.post(
pf_token_url,
json={
"client_id": client_id,
"client_secret": client_secret,
"audience": pf_token_audience,
"grant_type": "client_credentials",
},
)
access_token = response.json()["access_token"]
return access_token
def get_pf_data(address, country, warming_scenario="1.5"):
variables = {}
location = f"""
country: "{country}"
address: "{address}"
"""
query = (
"""
mutation {
getDatasetStatistics(input: { """
+ location
+ """ \
warmingScenario: \"""" + warming_scenario + """\"
}) {
datasetStatisticsResponses{
datasetId
midValue
name
unit
warmingScenario
latitude
longitude
info
}
}
}
"""
)
print(query)
access_token = get_pf_token()
url = pf_api_url + "/graphql"
headers = {"Authorization": "Bearer " + access_token}
response = requests.post(
url, json={"query": query, "variables": variables}, headers=headers
)
return str(response.json())
lo excluí intencionalmente datasetId para recuperar todos los indicadores para que el agente de IA tenga una amplia gama de información con la que trabajar.
La API es sólida porque acepta pueblos y ciudades, así como direcciones completas. Por ejemplo …
get_pf_data(address="New Delhi", country="India", warming_scenario="1.5")
Devuelve un registro JSON con información de cambio climático para la ubicación…
{'data': {'getDatasetStatistics': {'datasetStatisticsResponses': [{'datasetId': 40601, 'midValue': '17.0', 'name': 'Change in total annual precipitation', 'unit': 'mm', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40616, 'midValue': '14.0', 'name': 'Change in wettest 90 days', 'unit': 'mm', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40607, 'midValue': '19.0', 'name': 'Change in dry hot days', 'unit': 'days', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40614, 'midValue': '0.0', 'name': 'Change in snowy days', 'unit': 'days', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40612, 'midValue': '2.0', 'name': 'Change in frequency of “1-in-100-year” storm', 'unit': 'x as frequent', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40101, 'midValue': '28.0', 'name': 'Average temperature', 'unit': '°C', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40901, 'midValue': '4.0', 'name': 'Climate zones', 'unit': 'class', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {'climateZoneName': 'Dry semi-arid (or steppe) hot'}}, {'datasetId': 40613, 'midValue': '49.0', 'name': 'Change in precipitation “1-in-100-year” storm', 'unit': 'mm', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40701, 'midValue': '7.0', 'name': 'Likelihood of year-plus extreme drought', 'unit': '%', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40702, 'midValue': '30.0', 'name': 'Likelihood of year-plus drought', 'unit': '%', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40704, 'midValue': '5.0', 'name': 'Change in wildfire danger days', 'unit': 'days', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40703, 'midValue': '-0.2', 'name': 'Change in water balance', 'unit': 'z-score', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40201, 'midValue': '21.0', 'name': 'Average nighttime temperature', 'unit': '°C', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40205, 'midValue': '0.0', 'name': 'Freezing days', 'unit': 'days', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40301, 'midValue': '71.0', 'name': 'Days above 26°C (78°F) wet-bulb', 'unit': 'days', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40302, 'midValue': '24.0', 'name': 'Days above 28°C (82°F) wet-bulb', 'unit': 'days', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40303, 'midValue': '2.0', 'name': 'Days above 30°C (86°F) wet-bulb', 'unit': 'days', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40102, 'midValue': '35.0', 'name': 'Average daytime temperature', 'unit': '°C', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40103, 'midValue': '49.0', 'name': '10 hottest days', 'unit': '°C', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40104, 'midValue': '228.0', 'name': 'Days above 32°C (90°F)', 'unit': 'days', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40105, 'midValue': '187.0', 'name': 'Days above 35°C (95°F)', 'unit': 'days', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40106, 'midValue': '145.0', 'name': 'Days above 38°C (100°F)', 'unit': 'days', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40202, 'midValue': '0.0', 'name': 'Frost nights', 'unit': 'nights', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40304, 'midValue': '0.0', 'name': 'Days above 32°C (90°F) wet-bulb', 'unit': 'days', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40305, 'midValue': '29.0', 'name': '10 hottest wet-bulb days', 'unit': '°C', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40203, 'midValue': '207.0', 'name': 'Nights above 20°C (68°F)', 'unit': 'nights', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}, {'datasetId': 40204, 'midValue': '147.0', 'name': 'Nights above 25°C (77°F)', 'unit': 'nights', 'warmingScenario': '1.5', 'latitude': 28.6, 'longitude': 77.2, 'info': {}}]}}}
A continuación, necesitamos crear el asistente de IA utilizando la API beta. Hay algunos buenos recursos en la documentación y también lo muy útil Libro de cocina OpenAI. Sin embargo, al ser tan nuevo y estar en fase beta, no hay eso Aún había mucha información, por lo que a veces fue un poco de prueba y error.
Primero, necesitamos configurar herramientas que el asistente pueda usar, como la función para obtener datos sobre el cambio climático. Siguiente la documentación …
get_pf_data_schema = {
"name": "get_pf_data",
"parameters": {
"type": "object",
"properties": {
"address": {
"type": "string",
"description": ("The address of the location to get data for"),
},
"country": {
"type": "string",
"description": ("The country of location to get data for"),
},
"warming_scenario": {
"type": "string",
"enum": ["1.0", "1.5", "2.0", "2.5", "3.0"],
"description": ("The warming scenario to get data for. Default is 1.5"),
}},
"required": ["address", "country"],
},
"description": """
This is the API call to the probable futures API to get predicted climate change indicators for a location
""",
}
Notarás que hemos proporcionado descripciones de texto para cada parámetro de la función. Según la experimentación, el agente parece utilizar esto al completar los parámetros, así que tenga cuidado de ser lo más claro posible y de anotar cualquier idiosincrasia para que el LLM pueda ajustarse. A partir de esto definimos las herramientas…
tools = [
{
"type": "function",
"function": get_pf_data_schema,
}
{"type": "code_interpreter"},
]
Notarás que dejé code_interpretor, dándole al asistente la capacidad de ejecutar el código necesario para el análisis de datos.
A continuación, debemos especificar un conjunto de instrucciones para el usuario (un mensaje del sistema). Estos son absolutamente claves para adaptar el desempeño de los asistentes a nuestra tarea. Basado en una rápida experimentación llegué a este set…
instructions = """
"Hello, Climate Change Assistant. You help people understand how climate change will affect their homes"
"You will use Probable Futures Data to predict climate change indicators for a location"
"You will summarize perfectly the returned data"
"You will also provide links to local resources and websites to help the user prepare for the predicted climate change"
"If you don't have enough address information, request it"
"You default to warming scenario of 1.5 if not specified, but ask if the user wants to try others after presenting results"
"Group results into categories"
"Always link to the probable futures website for the location using URL and replacing LATITUDE and LONGITUDE with location values: https://probablefutures.org/maps/?selected_map=days_above_32c&map_version=latest&volume=heat&warming_scenario=1.5&map_projection=mercator#9.2/LATITUDE/LONGITUDE"
"GENERATE OUTPUT THAT IS CLEAR AND EASY TO UNDERSTAND FOR A NON-TECHNICAL USER"
"""
Puede ver que agregué instrucciones para que el asistente proporcione recursos, como sitios web, para ayudar a los usuarios a prepararse para el cambio climático. Esto es un poco “abierto”, para un asistente de producción probablemente querríamos una selección más estricta de esto.
Una cosa maravillosa que ahora es posible es que también podemos instruir sobre el tono general, en el caso anterior solicitando que el resultado sea claro para un usuario no técnico. Obviamente, todo esto necesita cierta ingeniería sistemática y rápida, pero es interesante observar cómo ahora “programamos” en parte a través de la persuasión. 😊
Bien, ahora tenemos nuestras herramientas e instrucciones, creemos el asistente…
import os
from openai import AsyncOpenAI
import asyncio
from dotenv import load_dotenv
import sysload_dotenv()
api_key = os.environ.get("OPENAI_API_KEY")
assistant_id = os.environ.get("ASSISTANT_ID")
model = os.environ.get("MODEL")
client = AsyncOpenAI(api_key=api_key)
name = "Climate Change Assistant"
try:
my_assistant = await client.beta.assistants.retrieve(assistant_id)
print("Updating existing assistant ...")
assistant = await client.beta.assistants.update(
assistant_id,
name=name,
instructions=instructions,
tools=tools,
model=model,
)
except:
print("Creating assistant ...")
assistant = await client.beta.assistants.create(
name=name,
instructions=instructions,
tools=tools,
model=model,
)
print(assistant)
print("Now save the DI in your .env file")
Lo anterior supone que hemos definido claves y nuestra identificación de agente en un .env archivo. Notarás que el código primero verifica si el agente existe usando el ASSISTANT_ID en el .env archivo y actualícelo si es así; de lo contrario, crea un agente nuevo y la ID generada debe copiarse al .env archivo. ¡Sin esto, estaba creando MUCHOS asistentes!
Una vez creado el asistente, se vuelve visible en la Interfaz de usuario abierta AI donde se puede probar en el Patio de juegos. Dado que la mayor parte del desarrollo y la depuración se relacionan con llamadas a funciones en realidad llaman a código, no encontré el campo de juego muy útil para este análisis, pero está muy bien diseñado y podría ser útil en otros trabajos.
Para este análisis, decidí utilizar el nuevo GPT-4-Turbo modelo configurando model a “gpt-4–1106-preview”.
Queremos poder crear un chatbot completo, así que comencé con esto ejemplo de libro de cocina iluminado por cadenaajustándolo ligeramente para separar el código del agente en un archivo dedicado y acceder a través de…
import assistant_tools as at
Chainlit es muy conciso y la interfaz de usuario es fácil de configurar; puedes encontrar el código de la aplicación aquí.
Poniéndolo todo junto – ver código aquí — iniciamos el agente con un simple chainlit run app.py …
Preguntemos por una ubicación…
Señalando arriba que intencionalmente escribí mal Mombasa.
Luego, el agente comienza su trabajo, llama a la API y procesa la respuesta JSON (tardó unos 20 segundos)…
Según nuestras instrucciones, luego termina con…
¿Pero es correcto?
Llamemos a la API y revisemos el resultado…
get_pf_data(address="Mombassa", country="Kenya", warming_scenario="1.5")
Que consulta la API con…
mutation {
getDatasetStatistics(input: {
country: "Kenya"
address: "Mombassa"
warmingScenario: "1.5"
}) {
datasetStatisticsResponses{
datasetId
midValue
name
unit
warmingScenario
latitude
longitude
info
}
}
}
Esto da lo siguiente (truncado para mostrar solo algunos)…
{
"data": {
"getDatasetStatistics": {
"datasetStatisticsResponses": [
{
"datasetId": 40601,
"midValue": "30.0",
"name": "Change in total annual precipitation",
"unit": "mm",
"warmingScenario": "1.5",
"latitude": -4,
"longitude": 39.6,
"info": {}
},
{
"datasetId": 40616,
"midValue": "70.0",
"name": "Change in wettest 90 days",
"unit": "mm",
"warmingScenario": "1.5",
"latitude": -4,
"longitude": 39.6,
"info": {}
},
{
"datasetId": 40607,
"midValue": "21.0",
"name": "Change in dry hot days",
"unit": "days",
"warmingScenario": "1.5",
"latitude": -4,
"longitude": 39.6,
"info": {}
},
{
"datasetId": 40614,
"midValue": "0.0",
"name": "Change in snowy days",
"unit": "days",
"warmingScenario": "1.5",
"latitude": -4,
"longitude": 39.6,
"info": {}
},
{
"datasetId": 40612,
"midValue": "1.0",
"name": "Change in frequency of \u201c1-in-100-year\u201d storm",
"unit": "x as frequent",
"warmingScenario": "1.5",
"latitude": -4,
"longitude": 39.6,
"info": {}
},.... etc
}
]
}
}
}
Al realizar una verificación aleatoria, parece que el agente los capturó perfectamente y presentó al usuario un resumen preciso.
El agente de IA se puede mejorar mediante algunas instrucciones sobre cómo presenta la información.
Una de las instrucciones era generar siempre un enlace a la visualización del mapa en el sitio web de Probable Futures, que al hacer clic va a la ubicación correcta…
Otra instrucción pedía al agente que siempre solicitara al usuario que probara otros escenarios de calentamiento. De forma predeterminada, el agente produce resultados para un aumento previsto de la temperatura global de 1,5 °C, pero permitimos al usuario explorar otros escenarios (y algo deprimentes).
Dado que le dimos al agente de IA la habilidad de interpretar código, debería poder ejecutar código Python para realizar análisis de datos básicos. Probemos esto.
Primero pregunté cómo afectaría el cambio climático a Londres y Nueva York, a lo que el agente proporcionó resúmenes. Entonces pregunté…
Esto resultó en que el Agente usara un intérprete de código para generar y ejecutar código Python para crear una trama…
¡Nada mal!
Utilizando la API de Probable Futures y un asistente de OpenAI, pudimos crear una interfaz conversacional que muestra cómo las personas podrían hacer preguntas sobre el cambio climático y obtener consejos sobre cómo prepararse. El agente pudo realizar llamadas API y realizar algunos análisis de datos básicos. Esto ofrece otro canal para la concienciación climática, que puede resultar más atractivo para algunos usuarios no técnicos.
Por supuesto, podríamos haber desarrollado un chatbot para determinar la intención/entidades y el código para manejar la API, pero esto requiere más trabajo y debería revisarse para cualquier cambio en la API y cuando se agreguen nuevas API. Además, un agente de modelo de lenguaje grande hace un buen trabajo al interpretar la entrada y el resumen del usuario con un desarrollo muy limitado, y lleva las cosas a otro nivel al poder ejecutar código y realizar análisis de datos básicos. Nuestro caso de uso particular parece particularmente adecuado para un agente de IA porque la tarea tiene un alcance limitado.
Sin embargo, existen algunos desafíos: la técnica es un poco lenta (las consultas tardaron entre 20 y 30 segundos en completarse). Además, los costos de los tokens LLM no se analizaron para este artículo y pueden ser prohibitivos.
Dicho esto, la API de OpenAI Assistants está en versión beta. Además, el agente no se ajustó de ninguna manera y, por lo tanto, con más trabajo, es probable que se puedan optimizar funciones adicionales para tareas comunes, rendimiento y costo para esta nueva y emocionante técnica.
Este artículo se basa en datos y otros contenidos puestos a disposición por Probable Futures, un proyecto de SouthCoast Community Foundation y algunos de esos datos pueden haber sido proporcionados a Probable Futures por Woodwell Climate Research Center, Inc. o The Coordinated Regional Climate Downscaling Experiment (CORDEX). )
El código para este análisis se puede encontrar aquí.
Puedes encontrar más de mis artículos. aquí.