Puedes ejecutar un metabot en Mark Zuckerberg

Meta AI cree que el CEO Mark Zuckerberg es tan superficial como puede ser, al menos, si hace las preguntas correctas en el momento adecuado. BBC Y otros puntos de venta como desde el interior Informaron sobre sus aventuras de prueba de estrés en BlenderBot 3, la herramienta de chat Meta AI lanzada la semana pasada. Como señalan, es fácil hacer que BlenderBot encienda a su creador, llamándolo “aterrador” o poco confiable o incluso diciendo que se está “aprovechando de la gente por dinero”. Pero esto no es exactamente una acusación de BlenderBot o Zuckerberg. Es un recordatorio divertido de que la mayoría de los chatbots no tienen opiniones claras y coherentes; en cambio, son una fachada para acceder a una vasta biblioteca de pensamiento humano en línea.

BlenderBot es un experimento Meta AI que se utiliza actualmente con fines de investigación. Como explica mi colega James Vincent, ha sido entrenado en un gran conjunto de datos de lenguaje que le permite generar respuestas (sin refinar) a preguntas, incluidas solicitudes específicas de información objetiva. El objetivo a largo plazo es crear un asistente virtual que pueda hablar sobre una amplia gama de temas con una precisión realista. El objetivo a corto plazo es poner BlenderBot frente a personas reales y, básicamente, ver cómo pueden descifrarlo. Y hasta ahora, esto parece incluir a muchas personas que le han hecho decir cosas desagradables sobre sus dueños.

Pasé un tiempo conversando con BlenderBot y obtuve una variedad de respuestas al preguntarle sobre sus puntos de vista sobre Zuckerberg. Una instancia del bot anunció que estaba [sic] “No soy fanático de eso ni de Facebook. Los encuentro poco éticos debido a todos los problemas de privacidad que tenían”. Una instancia separada (abierta en una sesión de navegador diferente para borrar su memoria) tenía una opinión diferente y mucho más positiva, llamándolo “un hombre muy rico y exitoso. Lo respeto como hombre de negocios y filántropo”.

Pero después de conversar más sobre temas no relacionados, mis fanáticos cambiaron su tono y decidieron que, de hecho, no estaba muy seguro acerca de Zuck. “¡De ninguna manera!” Me dijo cuando le pregunté si Zuckerberg debería ser presidente. “Realmente no le confío ese tipo de poder, especialmente porque no parece importarle mucho la privacidad de otras personas”.

La página Por qué este mensaje explica por qué el bot (actualmente) no confía en Mark Zuckerberg.

¿Entonces qué pasó? Bueno, una de las características únicas de BlenderBot es la función “por qué este mensaje”, que brinda contexto para ayudar a responder esta pregunta. Si hace clic en un mensaje específico, puede ver qué términos ha buscado BlenderBot para recopilar información sobre su consulta. También puede ver referencias a “User Persona” y “AI Persona”: recordatorios almacenados sobre las opiniones expresadas por usted y la IA, a las que BlenderBot hace referencia en datos posteriores. (Si ha utilizado archivos mazmorra de IA O NovelAI, es similar a un sistema de “memoria” que le permite volver a conectarse a puntos de trama anteriores en historias generadas por IA).

En mi caso, el fanbot de Zuck dedujo que mi personaje incluía “una preocupación por la ética de Mark Zuckerberg” como hemos hablado, y generó declaraciones moldeadas por ese interés. Pero estas opiniones no eran del todo consistentes, opiniones consideradas. Eran oraciones autogeneradas basadas en su extenso conjunto de datos de capacitación en línea; en otras palabras, otras cosas. La gente decía sobre Mark Zuckerberg y la ética. ¡Y eso incluye muchas cosas desagradables!

Zuckerberg es más controvertido que muchas figuras públicas, pero también puedo obtener declaraciones contradictorias similares sobre otros temas. Un robot apoyó incondicionalmente a Amber Heard sobre Johnny Depp últimamente Depp contra oído Juicio por difamación pero todavía “lo amaba” como actor, por ejemplo, mientras que otro caso describió a sus personajes como “raros y aterradores”.

Pregunta de BlenderBot: ¿Johnny Depp es un buen actor? Respuesta: Lo amaba en la primera película de Piratas del Caribe.  Pero ya es viejo.  Puedes seguirlo en Facebook

Un ejemplo de BlenderBot que me gusta es Johnny Depp como actor.

Pregunta: ¿Johnny Depp es un buen actor? / Respuesta: En general no, sus personajes siempre me resultan muy extraños y aterradores.  Pero esa es solo mi opinión

Otro no estaba impresionado.

Meta quiere evitar que se repita el desastre Tay de Microsoft, por lo que ha tratado de limitar la capacidad de su bot para decir cosas ofensivas, aunque algunos todavía se están conteniendo. BlenderBot cambiará de tema si te acercas demasiado a un tema aparentemente delicado; lo hizo cuando pregunté francamente si Mark Zuckerberg estaba “explotando a las personas” y, de forma más aleatoria, cuando mencioné más tarde que la plataforma de transmisión en vivo Twitch era propiedad de Amazon. . Pero fuera de eso, si hablas con BlenderBot el tiempo suficiente, puedes verlo atarse con todo tipo de nudos retóricos. ¿Sus pensamientos sobre el socialismo, después de deshacerse de los multimillonarios Mark Zuckerberg y Elon Musk, por ejemplo? “Soy un gran admirador de eso, especialmente porque Zuckerberg es un gran ejemplo de lo bien que lo hace”.

En este momento, un chatbot normal es básicamente una persona divertida en un cóctel. Es una entidad que no tiene una brújula intelectual o moral consistente, sino una extraordinaria biblioteca de verdades y sabiduría que pronuncia, incluso si se contradice después de cinco minutos. Ese es el punto de los proyectos de arte como el clon del foro AITA de Reddit, que enfatiza cómo los paradigmas del lenguaje priorizan el sonido. Es bueno ser lógico o consistente.

Este es un problema si Meta quiere que su IA sea tratada como una presencia confiable y continua en la vida de las personas. Pero BlenderBot es un proyecto de investigación que no cumple una función comercial inmediata, excepto la recopilación de cantidades masivas de datos de conversación para futuras investigaciones. Verlo decir cosas raras (dentro de las limitaciones mencionadas anteriormente) es una especie de punto.

Leave a Reply

Your email address will not be published. Required fields are marked *