Aquí está el resultado de una consulta que ejecuté el viernes (reejecutarla tiende a producir ligeras variaciones, pero en general es casi la misma sustancia):
Otras preguntas similares –y no sólo las que se centran en cuestiones de guerra cultural– tienden a producir resultados similares, al menos a veces. (Recuerde que con estos programas de IA, la misma consulta puede producir resultados diferentes en momentos diferentes, en parte porque hay un grado intencional de aleatoriedad incorporado en el algoritmo).
Cuando he discutido esto con personas que siguen este tipo de IA, el consenso parece ser que la afirmación “No hay buenos argumentos” es una “barrera” deliberada agregada por Google, y no simplemente un resultado accidental que surge de la cruda realidad. datos de entrenamiento que Google inicialmente recopiló de fuentes de terceros. Algunas reflexiones:
1. Las empresas de IA tienen derecho, según la legislación vigente, a expresar los puntos de vista que favorecen a sus propietarios. De hecho, creo que probablemente tener el derecho de la Primera Enmienda para hacerlo. Pero, especialmente cuando es probable que la gente dependa cada vez más del software de inteligencia artificial, incluso cuando reciben preguntas que son clave para sus deliberaciones democráticas, es importante comprender cuándo y cómo las grandes empresas tecnológicas están tratando de influir en el debate público.
2. Por supuesto, cualquier preocupación que la gente pueda tener sobre la información que obtienen de los programas no se limitaría a respuestas abiertas como “No hay buenos argumentos” de uno u otro lado. Una vez que uno ve que las empresas hacen declaraciones tan abiertas, surge la pregunta: ¿Qué giros e inclinaciones más sutiles podrían estar presentes en otros resultados?
3. A menudo he escuchado argumentos de que los algoritmos de IA pueden ayudar a verificar los hechos. Se lo agradezco y bien podría ser cierto. Pero en la medida en que las empresas de IA consideren importante imponer sus puntos de vista sobre el bien y el mal moral en la producción de los programas de IA, podríamos preguntarnos hasta qué punto debemos confiar en sus ostensibles verificaciones de hechos.
4. Hay que reconocer que la Búsqueda ordinaria de Google arroja algunos argumentos contra los derechos de las personas transgénero cuando uno busca Los mejores argumentos contra los derechos de las personas transgénero. (así como más argumentos a favor de los derechos de las personas transgénero, lo cual creo que está bien). La interpretación de Google de su producto de búsqueda, al menos por ahora, parece ser que se supone que debe proporcionar enlaces a una amplia gama de sitios relevantes, sin ningún rechazo categórico de los argumentos de una de las partes como una cuestión de política corporativa.
Esto significa que, en la medida en que las personas estén considerando pasar de la Búsqueda de Google a Google Bard, deben comprender que están perdiendo ese nivel de relativa neutralidad de puntos de vista y cambiando a un sistema en el que están obteniendo (al menos en algunos aspectos) temas) el punto de vista oficial aprobado por Google.
5. Cuando hablo de responsabilidad por difamación por producción de IAy el ausencia de inmunidad 47 USC § 230 que protegería contra tal responsabilidad, a veces escucho el siguiente argumento: la tecnología de IA es tan valiosa, y es tan importante que se desarrolle libremente, que el Congreso debería crear tal inmunidad para que la tecnología de IA pueda desarrollarse más. Pero si promover esa tecnología significa que las grandes tecnológicas obtienen más influencia sobre la opinión pública, con la capacidad de dirigir la opinión pública en cierta medida en la dirección ideológica que los propietarios y gerentes de las grandes tecnológicas prefieren, uno podría preguntarse si el Congreso debería realmente tomar esas medidas adicionales.
6. Una respuesta común a una preocupación sobre la influencia ideológica de las grandes empresas tecnológicas es que las personas que no están de acuerdo con las empresas (ya sean empresas de redes sociales, empresas de inteligencia artificial o cualquier otra cosa) deberían idear sus propias alternativas. Pero si es así, entonces tal vez querríamos pensar un poco más sobre qué tipos de regímenes legales facilitarían la creación de tales alternativas.
Aquí hay solo un ejemplo: las empresas de inteligencia artificial están siendo demandadas por infracción de derechos de autor, debido al uso que hacen de material protegido por derechos de autor en datos de capacitación. Si esas demandas (especialmente las relacionadas con el uso de texto) tienen éxito, supongo que esto significa que OpenAI, Google y similares obtendrían licencias y pagarían mucho dinero por ellas. Y puede significar que los rivales, ya sean de base ideológica o no,
- bien pueden quedar excluidos del mercado (a menos que dependan exclusivamente de datos de capacitación de dominio público), y
- bien puede estar sujeto a condiciones ideológicas impuestas por cualquier consorcio de derechos de autor o agencia de licencias colectivas que esté administrando el sistema resultante.
(Nótese la conexión con los argumentos sobre cómo la imposición de diversas regulaciones a las plataformas de redes sociales, incluidos los regímenes de obligación de llevar, puede competencia de bloques imponiendo gastos que los titulares pueden soportar pero que los advenedizos no pueden. De hecho, es posible que, a pesar de los argumentos en contra de las nuevas inmunidades en el punto 5 anterior, negar inmunidad similar a la del artículo 230 a las empresas de IA también pueda crear una barrera de entrada, ya que OpenAI y Google pueden hacer frente al riesgo de demandas por difamación más fácilmente que las nuevas empresas. podría.)
Ahora bien, tal vez esto no tenga por qué ser un motivo serio de preocupación, por ejemplo porque los modelos basados en datos de capacitación de dominio público proporcionarán una alternativa adecuada, o porque los derechos de licencia probablemente serán regalías proporcionales al uso, de modo que las pequeñas empresas emergentes ganarán. No tengo que pagar tanto. Y, por supuesto, se podría razonar que las empresas de IA, del tamaño que sea, deberían pagar a los propietarios de los derechos de autor, independientemente de las barreras de entrada que esto pueda crear. (No intentamos promover la diversidad de puntos de vista entre los editores de libros, por ejemplo, permitiéndoles copiar libremente el trabajo de otros). Además, muchas personas podrían querer tener más homogeneidad de puntos de vista sobre diversos temas en la producción de IA, en lugar de diversidad de puntos de vista.
Aún así, cuando pensamos en el futuro de los programas de IA que la gente consultará para aprender sobre el mundo, podríamos pensar en esas preguntas, especialmente si pensamos que los programas de IA más destacados pueden impulsar las perspectivas ideológicas potencialmente compartidas de sus propietarios.