Bender no se opone en todos los casos al uso de modelos lingüísticos para los intercambios de preguntas y respuestas. Tiene un Asistente de Google en su cocina que usa para convertir medidas en una receta. «A veces es muy útil poder acceder a la información por voz», dice.

Pero Shah y Bender también proporcionan un ejemplo más inquietante que surgió el año pasado cuando Google respondió a la pregunta «¿Cuál es el idioma más feo de la India?» con el fragmento «La respuesta es kannada, un idioma hablado por alrededor de 40 millones de personas en el sur de la India».

Sin respuestas fáciles

Aquí hay un dilema. Las respuestas directas pueden ser convenientes, pero también suelen ser incorrectas, irrelevantes u ofensivas. Pueden ocultar la complejidad del mundo real, dice Benno Stein de la Universidad Bauhaus en Weimar, Alemania.

En 2020, Stein y sus colegas Martin Potthast de la Universidad de Leipzig y Matthias Hagen de la Universidad Martin Luther Halle-Wittenberg, Alemania, publicaron un artículo que destaca los problemas con respuestas directas. «La respuesta a la mayoría de las preguntas es ‘Depende'», dice Matthias. «Es difícil comunicarse con alguien que está buscando».

Stein y sus colegas creen que las tecnologías de búsqueda han evolucionado desde la organización y el filtrado de información hasta técnicas como proporcionar una lista de documentos que coinciden con una consulta de búsqueda y brindar recomendaciones en forma de una sola respuesta a una pregunta. Y piensan que eso es un paso demasiado lejos.

Una vez más, el problema no son las limitaciones de la tecnología existente. Incluso con la tecnología perfecta, no obtendríamos respuestas perfectas, dice Stein: «No sabemos cuál es una buena respuesta porque el mundo es complejo, pero dejamos de pensar en eso cuando vemos estas respuestas directas».

Sha está de acuerdo. Darle a la gente una sola respuesta puede ser problemático porque oculta las fuentes de esa información y cualquier desacuerdo entre ellos, dice: «Realmente depende de que tengamos plena confianza en estos sistemas».

Shah y Bender proponen una serie de soluciones a los problemas que prevén. En general, las tecnologías de búsqueda deberían respaldar las diversas formas en que las personas usan los motores de búsqueda hoy en día, muchas de las cuales no cuentan con respuestas directas. Las personas a menudo usan la búsqueda para explorar temas sobre los que quizás ni siquiera tengan preguntas específicas, dice Shah. En este caso, tendría más sentido proporcionar simplemente una lista de documentos.

Debe quedar claro de dónde proviene la información, especialmente cuando una IA obtiene piezas de más de una fuente. Algunos asistentes de voz ya hacen esto, por ejemplo, anteponen una respuesta con «Esto es lo que encontré en Wikipedia». Las futuras herramientas de búsqueda también deberían tener la capacidad de decir: «Esa es una pregunta estúpida», dice Shah. Esto ayudaría a la tecnología a evitar repetir premisas ofensivas o sesgadas en una consulta.

Stein sugiere que los motores de búsqueda basados ​​en IA podrían presentar las razones de sus respuestas dando los pros y los contras de diferentes puntos de vista.

Sin embargo, muchas de estas propuestas simplemente resaltan el dilema que identificaron Stein y sus colegas. Cualquier cosa que reduzca la comodidad será menos atractiva para la mayoría de los usuarios. «Si no hace clic en la segunda página de resultados de Google, no querrá leer ningún otro argumento», dice Stein.

Google dice que está al tanto de muchos de los problemas que plantean estos investigadores y está trabajando arduamente para crear tecnología que la gente encuentre útil. Pero Google es el desarrollador de un servicio multimillonario. En última instancia, se desarrollan las herramientas que atraen a la mayoría de las personas.

Stein espera que no se trate solo de conveniencia. “La búsqueda es muy importante para nosotros, para la sociedad”, dice.

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí