Búsqueda impulsada por IA y el auge de la «Wikipedia Concierge» de Google.

El 14 de mayo, Google anunció el lanzamiento de su nueva herramienta de búsqueda impulsada por IA, AI Overviews, un modelo Gemini personalizado para la Búsqueda de Google. Esta nueva experiencia de búsqueda promete crear contenido dinámico adaptado a consultas individuales, proporcionando resultados más diversos y completos. Según Google, llegará a más de mil millones de personas A finales de año. Como uno de los primeros usuarios beta de esta tecnología y un profesional de la información con experiencia en alfabetización informacional, estaba anticipando este anuncio y observando cómo se desarrollaba la discusión. Exploras muchas conversaciones sobre la descripción general de la IA. La capacidad de influir significativamente en el comercio online Afectando los flujos de tráfico web. El impacto económico puede ser significativo. Pero lo que la mayor parte del debate ha ignorado hasta ahora es el cambio más significativo que esto creará en el ecosistema de la información.

mientras cualquier Una herramienta de descubrimiento de información da forma a las interacciones del usuario con la información, de la misma manera que AI Overviews permite preguntas frecuentes de los usuarios, genera respuestas instantáneas y presenta la información y los materiales de origen de manera diferente para redefinir cómo los usuarios acceden y comprenden esa información. La descripción general de la IA aparece en la parte superior de la página de resultados de búsqueda, encima de la lista de clasificación de páginas tradicional de hipervínculos de origen y vistas previas, y sirve como una respuesta personalizada a la búsqueda de cada usuario. Esta tecnología se enorgullece de mejorar la comodidad del usuario y, al mismo tiempo, plantea preocupaciones sobre cómo los usuarios percibirán cómo crean, difunden y acceden a la información: competencias centrales de la alfabetización informacional.

Dado el creciente interés en investigación y políticas sobre cómo funciona la IA Transformando la información del paisaje, Afecta la dieta de información.Y Impacto en la democracia globalMonitorear cómo los usuarios usan estas herramientas de búsqueda en una variedad de contextos será fundamental para monitorear la salud de los ecosistemas de información en línea. Esto es cierto no sólo por el creciente interés en la investigación y las políticas, sino también porque estas herramientas y sus herramientas asociadas cambiarán absolutamente la forma en que accedemos y utilizamos la información, con consecuencias no deseadas e imprevistas que tal vez no estemos preparados para monitorear, y mucho menos. solo mitigar.

Combinación seductora

Las descripciones generales basadas en inteligencia artificial son atractivas porque resumen y compilan los resultados de la búsqueda en segundos. Esta conveniencia a menudo oculta el maravilloso hecho de que estamos asistiendo al nacimiento de un objeto de información completamente nuevo, una especie de tercera fuente como el servicio de conserjería Wikipedia, que tiene como objetivo responder con sus capacidades lógicas avanzadas a las consultas cada vez más complejas de los usuarios. A diferencia de las formas más antiguas de investigación, estas respuestas terciarias se generan con mucho menos énfasis en las fuentes primarias y secundarias de las que se extrae la respuesta generativa.

La síntesis es una habilidad cognitiva de alto nivel, similar al análisis. Con AI Overviews, el esfuerzo de ajuste se descarga al prometer que el tiempo y la energía ahorrados se pueden dedicar a otras tareas más significativas. Pero aún está por verse cuáles son esas tareas. La dependencia excesiva de tales sistemas conlleva riesgosdoble«, lo que socava la capacidad de sintetizar y analizarse a uno mismo. Si bien se trata de habilidades cognitivas, Toma de decisiones éticas Otros procesos y habilidades morales también pueden verse afectados.

En última instancia, evaluar la información se convierte en un ejercicio difícil de navegar y evaluar la incertidumbre y la complejidad. El declive colectivo en este campo, a medida que los consumidores de información ceden cada vez más decisiones basadas en valores a sistemas automatizados y subcontratan efectivamente habilidades de pensamiento crítico a la inteligencia artificial, ciertamente afectará la capacidad del público para participar en una comprensión profunda y precisa del mundo. alrededor.

Mediación artificial

Las descripciones generales de IA actúan como un velo semitransparente entre lo que tradicionalmente ha sido una relación entre el usuario y la fuente. Las iteraciones anteriores de la Búsqueda de Google ciertamente también hicieron esto, ofreciendo vistas previas destacadas dentro de los resultados de búsqueda que respondían a una pregunta. Si bien el algoritmo de búsqueda de Google ha sido mejorado Predecir resultados Basado en el comportamiento del usuario y otros puntos de datos del usuario (Incluyendo publicidad), y la función AI ​​Overviews va más allá, guiando a los usuarios a comprender la información recopilada. Actúa como mediador, dando forma a la interacción del usuario con el contenido de búsqueda.

Al ayudar a los usuarios a comprender esa información, también tiene la capacidad de influir sutilmente en lo que piensan. El poder de estas visiones generales es enorme y debe entenderse desde el interior de diversas comunidades. Esto incluye comprender los efectos de la creciente dependencia del usuario de resúmenes de información convenientes pero potencialmente superficiales, el potencial de estos resúmenes para influir en una comprensión más amplia de temas sensibles y su capacidad para incitar una mayor polarización de opiniones. Las comunidades en línea ya están impulsadas por la desconfianza hacia los principales medios de comunicación..

Información fuera de contexto

AI Overviews se centra en la respuesta generada en fuentes individuales, extrayendo esas fuentes de sus contextos originales e integrándolas. Las fuentes se incluyen a través de islas expandibles o en una función de desplazamiento de carrusel horizontal y, debido a que las fuentes están integradas en la respuesta, las resúmenes transmiten una sensación de integridad que desalienta sutilmente comportamientos exploratorios más profundos, como comparar y contrastar fuentes o corroborar personalmente información utilizando material de fuente primaria. En este sentido, la visión general definitiva de la inteligencia artificial Resumen de la franquicia A expensas de la exploración y la navegación.

Los profesionales de la información han estado intentando (y fracasando) enseñar esto a los usuarios durante algún tiempo. Los primeros resultados de búsqueda no siempre son los mejores; «AI Overviews» es uno de los primeros resultados de búsqueda y también representa el consenso determinado por la máquina para muchos resultados de búsqueda. Pero en realidad nunca podrán representarlos a todos. Si bien una visión general de la IA parece exhaustiva, dados los sesgos bien documentados en cualquier sistema LLM junto con el panorama de información ya poco representativo en la web, una visión general de la IA corre el riesgo de pasar por alto diversas perspectivas, particularmente las de comunidades históricamente marginadas.

Ya sea por la falta de información diversa en las resúmenes generadas o por el esfuerzo adicional que los usuarios deben realizar para explorar y contextualizar múltiples fuentes en lugar de consultar los resultados generados por la IA, la representación no está solo en las respuestas sino en la interacción del usuario con el Fuentes varias sufren. Entonces, después de esto Plantea preguntas sobre la atribución de la fuente Si los usuarios confían y citan solo la respuesta generada y no el material fuente del que se extrajo esa respuesta.

Objetividad y confiabilidad artificiales

Google para explicar En su versión beta de AI Overviews, ha «ajustado el modelo para proporcionar respuestas objetivas y neutrales respaldadas por resultados web». Esto se hizo para que el modelo no asuma ni refleje ningún tipo de personalidad que pueda afectar a los usuarios a nivel emocional. Sin embargo, un tono neutral y desinteresado también tiene un atractivo emocional y lógico para los lectores y puede ocultar cualquier sesgo inherente al sistema. Una oferta neutral es muy convincente, especialmente cuando las respuestas son generalmente útiles y fiables. pero come Los LLM todavía experimentan alucinaciones Generan con confianza información incorrecta o sin sentido, lo que resalta aún más la necesidad de evaluar críticamente su producción.

La posibilidad de alucinaciones, combinada con datos de entrenamiento incompletos o sesgados, hace que la neutralidad en cualquier sistema creado por el hombre sea imposible, mientras que utilizar un tono neutral hace que parezca todo lo contrario. Los materiales originales, incluso el contenido basado en datos, pueden ser engañosos según el empaque y la presentación. Los usuarios suelen buscar señales rápidas de confiabilidadLa presentación objetiva de AI Overviews proporciona un barniz de confiabilidad pero, en última instancia, prioriza la conveniencia y los juicios rápidos sobre el análisis integral. En última instancia, las descripciones generales de IA están diseñadas para promover miradas rápidas y superficiales en lugar de una exploración en profundidad, y el tono neutral garantiza que los usuarios no permanezcan demasiado tiempo en un solo lugar ni piensen demasiado en nada porque los resultados se sienten «reales».

Recomendaciones

Dados los impactos potencialmente significativos en el comportamiento de los usuarios y las implicaciones resultantes para los ecosistemas de información, recomiendo lo siguiente:

1. Acceso del investigador Obtener datos sólidos de los usuarios será crucial para comprender cómo evolucionan los ecosistemas de información y cambian los patrones de consumo de información que afectan todo, desde la economía hasta la democracia. Hacer que esos datos estén ampliamente disponibles para el estudio científico será fundamental para fortalecer las interfaces de investigación ética, priorizar la transparencia y mejorar las herramientas para que los usuarios accedan y evalúen críticamente los materiales originales.
2. Relacionado, Las escuelas necesitan desarrollar planes de estudio sólidos Lo que implica enseñar a los estudiantes cómo investigar críticamente utilizando herramientas de descubrimiento de información que utilizan inteligencia artificial generativa. La alfabetización informacional se ha enseñado de manera desigual hasta la fecha, por lo que desarrollar planes de estudio rápidamente y pronto será fundamental para ayudar a los usuarios a utilizar esta tecnología de manera responsable.
3. Google debe monitorear y desarrollar constantemente el diseño de la interfaz. Garantizar que los usuarios comprendan las limitaciones de las descripciones generales de IA. Google también debería analizar los datos de los usuarios centrándose en ayudarlos no sólo a obtener respuestas rápidas, sino también a fomentar comportamientos de búsqueda en línea reflexivos.

Las descripciones generales de la IA son solo una pequeña parte de cómo la IA productiva afectará los ecosistemas de información en línea. Debido a que esto es solo el comienzo, tener conversaciones significativas desde el principio sobre cómo los usuarios adaptarán sus comportamientos y cuáles serán las consecuencias para el panorama de la información en línea es esencial para que podamos seguir entendiendo cómo funcionan los sistemas y sus impactos cambiantes en las personas que los utilizan. usalos, usalos a ellos.