Grimes quiere ser menos famosa (y ser reemplazada por IA)
Grimes wants to be less famous (and be replaced by AI)
EN EL EPISODIO DE ESTA SEMANA de Have a Nice Future, Gideon Lichfield y Lauren Goode son acompañados por c, o como es más conocida, Grimes. A principios de este año, lanzó Elf.tech, un sitio web donde sus fans pueden usar IA para crear sus propias canciones de Grimes basadas en su voz y pistas. Hablan sobre por qué c quiere empujar los límites del arte de la IA y por qué, a pesar de ser una tecnóptima en el fondo, está preocupada por nuestro futuro de la IA.
Echa un vistazo a la Gran Entrevista con c de Steven Levy en el número de septiembre de ENBLE. Si te perdiste nuestro episodio con Puja Patel, la editora en jefe de Pitchfork, sobre la nueva ola de IA generativa en la música, y la IA generada por Drake, puedes ponerte al día aquí. También tenemos muchas más historias sobre todo lo relacionado con la inteligencia artificial.
Lauren Goode es @LaurenGoode. Gideon Lichfield es @glichfield. Bling a la línea directa principal en @ENBLE.
Siempre puedes escuchar el podcast de esta semana a través del reproductor de audio en esta página, pero si quieres suscribirte gratis para obtener cada episodio, aquí te explicamos cómo:
- La ‘Batería Mágica’ de Apple alimentará los auriculares...
- Por qué el espacio de entrega de alimentos de Europa está en un est...
- ¿Quieres chatear por voz en WhatsApp? Es posible que pronto puedas ...
Si estás en un iPhone o iPad, simplemente toca este enlace, o abre la aplicación llamada Podcasts y busca Have a Nice Future. Si usas Android, nos puedes encontrar en la aplicación de Google Podcasts simplemente tocando aquí. También puedes descargar una aplicación como Overcast o Pocket Casts, y buscar Have a Nice Future. También estamos en Spotify.
Nota: Esta es una transcripción automática, que puede contener errores.
Gideon: Odio el hecho de empezar cada frase con “entonces”. ¡Es tan… tan poco imaginativo!
Lauren: Hola, soy Lauren Goode.
Gideon: Y soy Gideon Lichfield. Y esto es Have a Nice Future, un podcast sobre lo aterradoramente rápido que todo está cambiando.
Lauren: Cada semana hablamos con alguien que tiene ideas grandes, audaces y a veces inquietantes sobre el futuro, y les preguntamos cómo podemos prepararnos todos para vivir en él.
Gideon: Nuestro invitado esta semana es la músico c, o como se le conoce mejor, Grimes. Nos referimos a ella de ambas formas en este episodio. La pasada primavera, lanzó Elf.Tech, donde sus fans podían crear música con una versión generada por IA de su voz y sonido.
[Música]
Grimes (audio de archivo): Me interesa ser menos famosa. Me interesa hacer un arte más complicado para una audiencia más pequeña que esté más interesada en algo más filosófico, en un arte más complicado que quizás tenga menos apelación popular. Quiero hacer cosas que no se hayan hecho antes. Más que tener un éxito o algo así.
Lauren: Así que nuestros súper fans podrían recordar que hace un par de meses estábamos hablando con Puja Patel, la editora en jefe de Pitchfork, sobre la nueva ola de IA generativa en la música y cómo todos estaban enloqueciendo por la IA generada por Drake. Ahora, entre bastidores, también estábamos tratando de contactar a c, porque pensamos que sus ideas serían muy valiosas, y finalmente la tenemos en el programa.
Gideon: También tenemos, por cierto, una entrevista con ella de Steven Levy en el número de septiembre de ENBLE, que acaba de ser publicado en línea en ENBLE.com esta semana.
Lauren: Así es. Queríamos hablar con c en el podcast porque es una artista que está abrazando la IA en lugar de huir asustada de ella.
Gideon: Exacto. Así que puso su propia música y voz en línea y le dijo a sus fans, básicamente, “Haz lo que quieras con ella”. Y si eso suena un poco extraño, bueno, eso resume un poco la conversación que estás a punto de escuchar. También hablamos mucho sobre las aplicaciones prácticas de la IA.
Lauren: Sí, habla mucho sobre los LLM, o modelos de lenguaje grandes, que son la base de esta nueva era de la IA. Y en general, es optimista, pero también escuchamos un poco sobre las áreas en las que está preocupada por la IA. Y creo que su perspectiva es especialmente interesante aquí, porque está más inmersa en esta tecnología que otros artistas. Incluso pasa tiempo en compañías tecnológicas en estos días, incubando ideas. Y famosamente, por supuesto, está criando a dos hijos con Elon Musk.
Gideon: Nuestra conversación, como podrías esperar, se fue por muchas direcciones diferentes. Hablamos sobre arte, educación, política y la naturaleza de la masculinidad.
Lauren: Sí, esa última fue una verdadera sorpresa. Pero antes de llegar a la entrevista, un poco de negocio. Queremos escuchar de ti. De verdad. Leemos las reseñas. Tenemos una dirección de correo electrónico. Puedes enviarnos un correo electrónico a [email protected], o simplemente déjanos algunas notas en tu aplicación de podcast favorita. Cuéntanos qué quieres escuchar más. Dinos lo que no te gusta. Podemos aceptarlo, somos adultos aquí. Pero simplemente envíanos un mensaje. Nos encanta escuchar a nuestros oyentes.
Gideon: Y con eso fuera del camino, nuestra conversación con C viene después de este descanso.
[Música]
Gideon: Bien, c, el artista también conocido como Grimes, bienvenido a Have a Nice Future.
Grimes: Sí, gracias por tenerme.
Lauren: ¿Estás teniendo un futuro agradable?
Grimes: Eh, en realidad estoy teniendo un futuro bastante bueno. No estoy seguro de que todos estén teniendo un buen futuro, lo cual me hace sentir mal, pero, como, personalmente estoy teniendo un buen futuro.
Lauren: ¿A qué te refieres con eso?
Grimes: Eh, creo que la gente está muy estresada, y no sin razón, pero yo soy bastante optimista. Sí. En realidad, soy más optimista de lo que era hace algunos años.
Gideon: Bueno, queríamos hablar contigo porque pareces, al menos en cierta medida, el epítome del optimista tecnológico en las artes. Porque cuando salió esa canción falsa de Drake/The Weeknd generada por IA, tu reacción no fue entrar en pánico como todos los demás, sino más bien lo contrario. Dijiste: “Quiero que la gente haga eso con mi música”. Y lanzaste el sitio Elf.Tech, que permite a las personas usar tu voz y tus pistas para hacer su propia música generada por IA. Entonces, ¿de dónde viene ese instinto de correr hacia lo nuevo y aterrador?
Grimes: Bueno, creo que hay varias cosas. Una de las razones por las que no sentí una gran preocupación es que la industria musical es sorprendentemente, diría patológicamente, litigiosa. Así que pensé, ya sabes, esto no es realmente una amenaza para la gente, porque los poderes fácticos no permitirán que esto se convierta en una fuerza destructiva, como que no es difícil emitir órdenes de eliminación de cosas como esta. Siempre he odiado lo litigiosa que es la industria musical. Siempre ha sido una de las cosas que más odio de ella, pero creo que es realmente bueno para la IA, porque creo que va a ralentizar artificialmente cómo se utiliza la IA, y especialmente cosas generativas, en la música específicamente. Es como la industria perfecta para hacer estudios de caso, porque vamos a tener un poco más de tiempo que todos los demás.
Lauren: Seguramente habías estado pensando en usar IA en la música durante un tiempo antes, ya sabes, antes de la atención que recibió la mezcla de Drake y The Weeknd, ¿verdad? ¿Cuánto tiempo llevas pensando en esto?
Grimes: Oh, en realidad intentamos hacer esto en 2019, o algo así. Intentamos abrir la fuente de Grimes. Simplemente no era técnicamente posible antes, pero eso es algo que hemos estado tratando de descubrir activamente durante mucho tiempo, en realidad.
Lauren: Creo que hay esta concepción de que no hay mucha artesanía involucrada en la creación de pistas de música generada por IA. La gente piensa, uh, ya sabes, es como DALL-E, como si simplemente escribieras una solicitud y sucediera algo de música de robot “beep bop bop” y luego, bam, tienes una canción falsa de Grimes. ¿Cómo funciona en realidad?
Grimes: Sí. Entonces, una de las cosas importantes en las que realmente me importa es que los humanos, como, necesitamos trabajar, ¿sabes?, necesitamos desafiarnos a nosotros mismos. No aprendemos si no hacemos eso. Estoy un poco en contra de la IA generativa pura. Creo que tal vez tenga alguna utilidad, pero creo que necesitamos pensar en eso muy cuidadosamente. Pero, eh, la forma en que esto funciona, específicamente, es más como un sintetizador. Si tienes una pista vocal, puedes cambiarle el timbre. Así que utiliza el timbre vocal de mi voz en lugar de tu voz. Entonces puedes tomar cualquier acapella y tener la vocal de Grimes. Pero la forma en que esto funciona es que las personas siguen escribiendo, produciendo e incluso cantando estas canciones. Básicamente, simplemente cambian su voz por la mía.
Lauren: ¿Qué es lo que más te ha sorprendido de lo que se ha creado hasta ahora utilizando AI Grimes?
Grimes: Hay un par de canciones que son como, realmente, realmente desearía haberlas hecho. Y esas son las que más me sorprendieron, donde simplemente pensé, es tan extraño. Es como, sabes, he estado hablando sobre hacer como, techno vikingo, como techno vikingo etéreo, durante mucho tiempo, y personalmente lo intenté varias veces y simplemente fallé.
Gideon: Techno vikingo etéreo. Quiero escuchar eso ahora.
[Risas]
Lauren: Sí. ¿Hay una categoría para eso en Spotify?
Grimes: Sí, no, pero fue tan loco porque fue como, ellos crearon esto. Como, simplemente las personas que lo hicieron, tienen ciertas habilidades tanto en términos de producción de techno como en términos de cómo la chica que lo cantó tiene un estilo de canto celta vikingo obviamente entrenado, en el que yo no estoy entrenada. Y crearon algo que fue como, “Dios mío, desearía haber hecho esto”. Pero luego pensé, lo genial de esto es que tendría que aprender y estudiar todo esto para poder hacerlo, y no sé, realmente me sorprendió. Fue como si me conmoviera mucho. Fue como si estuviera orgullosa de mi hijo o algo así, es como si mi legado hiciera algo así, no sé, fue interesante ver a alguien hacer una mejor versión de lo que yo estaba buscando.
Gideon: ¿Crees que Elf.Tech es algo que otros artistas usarán, o algo similar, esta idea de licenciar su voz y sus pistas al público? ¿O es más bien una estratagema aislada que hiciste porque fuiste la primera? Porque, supongo que la razón por la que pregunto es que parece que habrá un apetito limitado por lo que es esencialmente ficción fanática musical. Y no sé cuántos artistas sentirán que vale la pena hacerlo, o cuántos oyentes querrán crear y escuchar ese tipo de cosas, pero podría estar equivocado.
Grimes: Creo que es muy difícil decirlo. Creo que, uh, siento que si… desearía que Drake/The Weeknd lo hicieran, porque creo que si un artista realmente grande lo hiciera, tendría más sentido hacerlo con un artista más grande que yo, porque si alguien escribiera un éxito legítimo, tendría más, como, potencial. Estoy curiosa por ver. En realidad, aún no hemos promocionado las cosas de los fans y solo estamos organizándolas y clasificándolas. Así que me intriga ver qué sucede cuando realmente pasemos por el proceso promocional, porque algunas de ellas son muy buenas.
Lauren: ¿No te sientes amenazada en absoluto? ¿O por qué no te parece amenazante que alguien esté haciendo arte usando tu voz que tú aún no has creado?
Grimes: No sé si realmente quiero seguir con la música en gran medida. No sé si has seguido todo el ciclo de Grimes, pero como—
Lauren: Mm-hmm.
[Risas]
Grimes: Soy una figura muy controvertida en internet y, de hecho, preferiría ser, probablemente, menos famosa. Me gustaría adentrarme más en el arte escénico de este tipo y en el lado técnico de las cosas. Y, ya sabes, Grimes siempre se trató más del arte escénico y de cómo interactuar con la tecnología que solo de canciones divertidas. Siempre se trató de cuál es el límite de la tecnología y lo que puedo hacer con ella. Mi identidad no está necesariamente muy ligada a Grimes como artista musical. Creo que mi identidad está más ligada a lo que Grimes es en términos de arte escénico. Y, de alguna manera, me siento—
Lauren: Parece que estás en una etapa de reinventarse.
Grimes: Sí, como, como, como, como, como estoy interesado en ser menos famoso. Estoy interesado en hacer arte más complicado para una audiencia más pequeña que esté más interesada en algo así como, más impulsado filosóficamente, más arte complicado que tal vez tenga menos atractivo popular. Me gustaría hacer cosas que no se han hecho antes más que tener un éxito.
Gideon: Hablemos un poco más sobre el papel más amplio de la IA en el arte. Entonces, cuando hablaste con nuestro colega, Steven Levy, quien te entrevistó para la revista, una de las cosas que le dijiste fue: “Lo emocionante para mí de la IA es que realmente está jugando con lo que es un artista, lo que es la creatividad y lo que es la música. El arte me parece fundamental para la experiencia humana”. Pero, al mismo tiempo, también dijiste que querías ser, creo que la palabra era, un artista autorreplicante replicado por la IA, y que crees que la IA podría reemplazar a los artistas humanos. Entonces, ¿dónde, cuál es la relación entre la IA y el creador humano?
Grimes: Creo que mucha gente piensa que es blanco o negro; sí o no; la IA reemplaza a todos los artistas, o no lo hace. Parte de lo que estoy haciendo no es necesariamente, como, lo estoy abordando de manera muy amorosa y lo estoy abordando más como un experimento. ¿Dónde está esto siendo destructivo? ¿Dónde es positivo? Creo que uno de los mayores peligros de la IA en este momento es que estoy menos preocupado por una superinteligencia de IA que tome el control del mundo que por los LLM que básicamente desincentivan por completo a cualquiera de aprender a escribir nuevamente, y, como nuestra relación con el lenguaje está dañada para siempre de manera fundamental.
Gideon: Sí. Creo que eso es en lo que más nos preocupamos también.
Grimes: Sí. Como, y, ya sabes, la forma en que las personas, como, piratearían los primeros LLM y, como, los empujarían a hacer cosas malas o peligrosas para que pudiéramos descubrir dónde se necesitan los límites y las precauciones—
Lauren: Mm-hmm.
Grimes: Como, quiero hacer cosas de arte peligrosas y ver dónde realmente está causando daño.
Gideon: Como, ¿cuál sería un ejemplo de una cosa de arte peligrosa?
Grimes: Creo que es posible que la música generativa, completamente generativa, pueda ser realmente mala. También podría ser realmente buena. Pero, como, quiero, como, tomar una generación antes de que simplemente, como, publiquemos todas estas cosas de arte generativo. Como si tuvieras algo donde puedes presionar un botón, es como Midjourney, y simplemente puedes decir: “Quiero este tipo de canción”. Y está entrenado en toda la música que se haya hecho y simplemente produce la mejor música que hayas escuchado. ¿En qué punto simplemente nos estamos engañando totalmente como especie? Como siento que, ya sabes, es como si la IA va a resolver partes de la ciencia y la medicina que, como, nos llevarían para siempre o tal vez ni siquiera podríamos resolver, o, ya sabes, simplemente cantidades enormes de procesamiento de datos que, como, llevarían a las personas años y años hacer siquiera si pudiéramos hacerlo. Eso tiene sentido para mí. ¿Reemplazar fundamentalmente a los artistas? Eso parece algo en lo que simplemente, ¿por qué?
Lauren: Hmm.
Grimes: Creo que es valioso buscar los límites de la creatividad. No digo que no debamos construir estas herramientas, pero digo que tal vez estas herramientas deberían estar en museos o tal vez estas herramientas solo deberían producir música de baja calidad para que todavía necesitemos saber cómo hacer música. Todavía necesitamos tener agencia en el proceso. Como podemos generar algo y obtener ideas geniales, pero, como, aún tienes que volver y, como, recrearlo si quieres lanzarlo profesionalmente.
Lauren: Parece que realmente tienes preocupaciones morales al respecto, sin embargo. Como dices que no lo estás abordando moralmente, lo estás abordando experimentalmente. Usaste la palabra estresado varias veces al comienzo de este podcast, realmente me llamó la atención. No estás diciendo que estás estresado, pero que las personas están estresadas por la tecnología y sus implicaciones, y sientes bastante fuertemente que si solo tuviéramos música generada totalmente por IA, eso sería algo malo. O si los niños no estuvieran aprendiendo a escribir porque los LLM estuvieran haciendo todo el trabajo, eso sería malo. Quiero decir, eso le asigna un valor moral a esta tecnología, ¿verdad? Y eso parece ser realmente una consideración importante para ti mientras la estás explorando.
Grimes: Entonces, bueno. Aquí está la cosa complicada. Creo que también está mal no experimentar y ver, pero sí, lo que estoy diciendo es que creo que la tecnología debería existir, pero tal vez debería ser algo que no puedas tener en casa. ¿Sabes a lo que me refiero? Simplemente creo que debería haber límites en cómo se utiliza. No sé si los LLM deberían ser algo a lo que los niños tengan acceso. O tal vez tengamos LLM, pero no estoy seguro de que deberíamos estar haciendo LLM como Shakespeare. Es un gran debate que sigo teniendo, porque tengo un amigo que está trabajando en hacer al mejor escritor de todos los tiempos, y yo le digo, ¿por qué quieres hacer al mejor escritor de todos los tiempos? ¿Por qué queremos…?
Lauren: ¿El mejor escritor LLM, te refieres? ¿Como un modelo?
Grimes: Sí, sí. Como, ¿por qué, por qué queremos hacer… por qué queremos hacer a Shakespeare 10 veces mejor? ¿Por qué queremos quitar eso a los humanos? Especialmente porque siento que el lenguaje en particular es… hemos coevolucionado con él. El lenguaje es algo muy diferente de resolver ciencia. El lenguaje es parte de nosotros. Lo necesitamos para sobrevivir. La metáfora que siempre uso es que es como nuestras mitocondrias. Las mitocondrias no son parte de nosotros. No comparten nuestro ADN, pero es una… tenemos una relación simbiótica con ellas. Viven en nuestros cuerpos y las necesitamos para sobrevivir. Y el lenguaje es, de alguna manera, similar y simplemente siento que antes de cambiar fundamentalmente nuestra relación con aquello que realmente nos hace humanos, deberíamos investigar más, hacer pruebas. Deberíamos pensar muy, muy, muy, muy cuidadosamente al respecto.
Lauren: Quiero volver a algo que sucedió poco después de que lanzaste Elf.Tech. Originalmente no habías puesto límites a lo que las personas podían crear con tus stems, pero poco después tuviste que publicar un descargo diciendo que no querías letras tóxicas. Quiero decir, básicamente estabas haciendo un llamado a la decencia en internet. Ya sabes, sin himnos nazis. Mencionaste, a menos que sea de alguna manera en broma, que realmente les estabas pidiendo a las personas que no fueran desagradables. Quiero decir, ¿qué responsabilidad crees que tienes para intentar detenerlos como persona que creó una plataforma, y dónde crees que debería trazarse esa línea, ya sabes, en torno a las personas que están usando, o potencialmente abusando, algo como una plataforma de generación musical?
Grimes: Creo que se trata más del experimento. De hecho, creo que los deepfakes deberían ser potencialmente ilegales. De hecho, creo que simplemente podríamos no necesitarlos. Es posible que realmente no haya una utilidad en usar la voz de Grimes, por ejemplo. Simplemente no veo un beneficio masivo, pero veo muchos inconvenientes con los deepfakes en general, ya sea visual, auditivo, lo que sea. Puede causar mucha agitación, agitación política.
Lauren: Entonces estás tomando una postura muy dura. Estás diciendo que los deepfakes simplemente no deberían ser legales. No deberían estar permitidos.
Grimes: No estoy del todo segura. Simplemente creo que vale la pena considerarlo. O, como otra opción, debería estar muy orientado al consentimiento. Lo que me gusta es, por ejemplo, hacer un LLM que esté entrenado en todo lo que Aristóteles haya escrito y, ya sabes, no sé, si tuviera 18 años y pudiera sentarme y hacerle preguntas a Aristóteles durante horas, eso podría ser algo realmente bueno. No sé si llamarías a eso un deepfake en ese punto, pero si tuvieras un LLM que esté entrenado en todos los grandes pensadores de todos los tiempos, y, como, es un profesor personalizado que tienes en casa, y en lugar de hacer el sistema escolar regular, haces, como, la escuela en línea y tu profesor es, ya sabes, Leibnitz y Nietzsche y, maldición, como, no sé, como todos los grandes pensadores de todos los tiempos.
Gideon: Estamos tomando nota de los filósofos que mencionaste, ya sabes, solo…
[Risas]
Grimes: Siento que hay algo… también hay un potencial, como, enorme. Imagina, cada niño podría tener acceso al mejor maestro de todos los tiempos. Y, um, sabes, creo que hay mucho potencial realmente genial en la educación basada en IA.
Lauren: En un mundo ideal, ¿cómo sería esa escuela? ¿En qué se centraría?
Grimes: Creo que principalmente en la construcción de comunidad. Y en la creación de una red social para nuestros hijos que sea realmente positiva, con familias que piensen de manera diferente. Estaba pasando por un momento muy difícil hasta que empecé a encontrar otras familias con padres que son más como yo. Siento que el primer año de tener un hijo fue uno de los años más difíciles y jodidos de mi vida. Y luego, a medida que empecé a conectar realmente y a hacer mejores amigos, finalmente encontrando padres con los que realmente puedo identificarme y todo eso, se volvió tan claro que se supone que debe ser algo comunitario, tribal. Creo que algo realmente interesante sucedió con los baby boomers, donde, en muchos aspectos, tuvieron un necesario alejamiento de la cultura anterior, ya sabes, la revolución sexual y todo lo que sucedió, y hay muchas cosas del pasado en las que muchas personas pensaron: sí, la forma en que la sociedad ha sido siempre, necesitamos cambiarla. Necesitamos cambiar la forma en que las cosas se ven en relación a la raza. Necesitamos cambiar la forma en que las cosas se ven en relación al género. Necesitamos cambiar muchas cosas fundamentales. Pero en muchos aspectos, creo que hemos perdido mucha cultura en la que todos pueden estar de acuerdo. Y de muchas formas, la cultura que solía ser no dejaba espacio para todos, por lo que es comprensible que las personas tuvieran problemas con ella, pero creo que una de las cosas más importantes que podemos hacer ahora mismo es decidir reconstruir la cultura. Ahora que hemos, como, explotado todo y desmantelado todo y estamos reevaluando casi todos los aspectos de cómo abordamos la moralidad, la educación y literalmente todo, no podemos alinear la IA hasta que nos alineemos a nosotros mismos y ahora mismo los humanos no estamos alineados en absoluto.
Gideon: Escucho que te estás moviendo en un tipo de espacio político amplio. Escucho que hablas como alguien que forma parte tanto de grupos políticos de izquierda como de derecha. Sabes, obviamente, muchas de las personas con las que te relacionas en Silicon Valley, o alrededor de Elon, son libertarios o conservadores, y también hay muchos progresistas, según imagino por los entornos en los que habitualmente te mueves. Entonces, ¿tengo razón al ver a los jóvenes tratando de unir diferentes puntos de vista políticos y pensar en cómo pueden integrarse?
Grimes: Sí. Realmente creo que uno de nuestros mayores problemas en este momento es la polarización. No quiero ser de izquierda o de derecha. Me preocupa lo que le estamos haciendo a los hombres jóvenes y el discurso que los rodea en este momento.
Lauren: ¿Qué parte te asusta?
Grimes: Hay muchos problemas con la toxicidad masculina, pero, como, simplemente estamos diciendo a los hombres que son malvados por cosas que no pueden, como, la testosterona es como una droga de guerra loca. ¿Por qué no puede haber una plataforma política que dé espacio y lugar y honre la masculinidad, la masculinidad tradicional, y la anime a mejorar de manera constructiva, en lugar de desmantelarla, y aún así se preocupe por los derechos de las mujeres, el acceso al aborto y los derechos trans? Es como, ¿por qué estas cosas tienen que ser dicotómicas? ¿Por qué tienen que luchar entre sí?
Lauren: ¿Qué crees que es una forma efectiva de hacer eso?
Grimes: Creo que para mí siempre se trata de, como, la zanahoria y no el palo. Me encantaría ver una especie de celebración de las partes buenas de la masculinidad. Como, ¿cómo se crea un discurso que anime a los hombres a esforzarse y ser caballerosos? Y, como, ¿cómo se romantiza un tipo de masculinidad que respete realmente a las mujeres y apoye la disciplina y, como, no sé, todas las cosas de las que todos se burlan, pero, como—
Gideon: Creo que entiendo lo que estás tratando de decir de nuevo. Quiero decir, parece que estás diciendo que la forma predeterminada de criticar la masculinidad tóxica es tratar de desmontar la masculinidad misma. Y en cambio—
Grimes: Creo que eso es, creo que eso es lo que está sucediendo demasiado, en nuestros intentos de deshacernos de las cosas que han sido tan, tan destructivas, creo que estamos desmantelando la masculinidad en su conjunto.
Lauren: ¿Deberíamos hacer una ronda rápida de preguntas?
Gideon: Claro, comenzaré yo. ¿Qué te mantiene despierto por la noche?
Grimes: Tenemos una crisis educativa en todos los ámbitos, como a nivel global.
Gideon Mm-hmm.
Grimes: Casi todo lo relacionado con cómo criamos a los niños.
Gideon: ¿Qué te hace ser optimista?
Grimes: Los jóvenes, los niños. Veo muchas cosas de la Generación Z que son aterradoras y malas, pero todas las personas de la Generación Z que conozco personalmente, solo pienso: “Wow, sí, eres genial. Oh Dios mío. Y como, tan iluminado”. Quiero decir, mis hijos, es como darse cuenta de que los humanos nacen realmente geniales. Solo nos arruinamos a nosotros mismos, pero empezamos siendo increíbles. Como empezamos siendo iluminados y, ya sabes, eso me da mucha fe, que el estado natural del ser humano es, como, uno maravilloso.
Lauren: Bueno, c, Grimes, esta ha sido una conversación muy amplia y divertida. Gracias.
Gideon: Muchas gracias por unirte a nosotros.
Grimes: Sí. Muchas gracias por hacer tiempo. Es muy apreciado.
[Música]
Gideon: Lauren, hablar con Grimes fue algo sorprendente, tengo que decir. No sé qué esperaba exactamente, pero creo que esperaba algo así como correr hacia el futuro y simplemente abrazar la IA en todas sus formas, y lo que me sorprendió es que expresó un conjunto de pensamientos realmente matizados sobre para qué deberíamos y para qué no deberíamos usar la IA.
Lauren: Quiero decir, creo que cuando entrevistas, llamémosla una celebridad, porque lo es, hay un poco de peligro, y tal vez sea lo mismo cuando entrevistas a un alto ejecutivo de tecnología, en tratarlos como un oráculo. Como si todo lo que dijeran debiera ser el futuro de la IA. Y creo que esta conversación me dejó claro que ella lo está descubriendo a medida que avanza, al igual que el resto de nosotros. Es algo alentador que la persona que ha estado en la vanguardia de este movimiento “si no puedes vencerlos, únete a ellos” para la música de IA también esté un poco confundida acerca de hacia dónde podría ir. Aún es optimista, pero tiene preocupaciones reales, aunque también parecía que sus preocupaciones son menos sobre la música, porque está reinventándose fuera de la música, y está más preocupada por la educación en un sentido más amplio y en el sentido del aula.
Gideon: El vínculo que vi entre estas dos cosas es que ella estaba advirtiendo sobre el riesgo de que los grandes modelos de lenguaje nos vuelvan estúpidos, porque ya sea que estén generando música desde cero o acortando el proceso de escritura, es demasiado fácil depender de ellos, apoyarse en ellos para hacer trabajos para los que antes necesitábamos aprender habilidades. Y así, en la educación, ella decía que quería que su hijo pudiera leer y escribir y aprender a usar el lenguaje de una manera profunda en la que todos, hasta este punto, hemos tenido que aprender a usarlo, porque de lo contrario no estamos bien preparados para navegar en el mundo.
Lauren: Es interesante, aunque cuando hablaba del futuro de la educación, fue cuando empezó a contradecirse un poco. Y, para ser justos, esto es realmente complejo y muchos de nosotros estamos tratando de entenderlo. Pero solo como ejemplo, ella preguntó: “¿Por qué queremos crear una IA de Shakespeare? ¿Por qué querríamos crear un modelo de lenguaje grande que sea el mejor escritor del mundo?” Pero luego, en otra parte de la conversación, mencionó tener una IA de Nietzsche o una IA de Newton disponible en las aulas para enseñar a los niños.
Gideon: En realidad, no vi una contradicción allí, porque creo que estaba diciendo que no queremos crear una IA de Shakespeare que genere obras de teatro y poesía perfectas, porque eso realmente estaría eliminando toda la creatividad humana. Pero la idea de una IA con la que puedas interactuar como una herramienta de enseñanza es muy diferente, y me encanta la idea de tener algo lo suficientemente bien entrenado como para participar en un diálogo socrático contigo y obligarte, como joven, a examinar tus suposiciones, hacerte preguntas sobre las cosas que has dicho, hacer esa práctica que, de hecho, los maestros en su mayoría no tienen tiempo de hacer con los niños debido al tamaño de las clases. Eso es algo muy, muy diferente a pedirle a algo que escriba obras mejores que las de Shakespeare o mejores canciones que las de Bob Dylan.
Lauren: Creo que esto me hace pensar en la siguiente etapa inevitable de hablar sobre IA, donde ya no estaremos hablando interminablemente de LLMs, porque entonces los LLMs serán simplemente la tecnología fundamental, una parte de la IA, y estaremos hablando de temas como arte, educación, derechos de autor, que creo que son conversaciones más importantes para tener en este momento.
Gideon: Creo que c está haciendo distinciones interesantes entre los usos de LLMs, en lugar de decir que los LLMs son buenos o malos, pero parece que también está luchando por descubrir cuáles deberían ser las reglas. Yo tampoco sé la respuesta a eso. No estoy seguro de si podemos crear reglas. Eso es parte de la dificultad aquí.
Lauren: Exacto. Y eso también se aplica a la moderación de contenido, porque, ya sabes, de cierta manera, su plataforma, Elf.Tech, resuelve la procedencia, ¿verdad? Es esta idea de entender de dónde proviene el material cuando se utiliza en el arte generado por IA. Pero la idea de que alguien pueda tomar esas pistas y utilizar su voz para crear un himno nazi, y luego la pregunta de quién es en última instancia responsable de moderar eso, sigue siendo una pregunta sin respuesta.
Gideon: Y ella realmente no respondió esa pregunta cuando intentaste preguntarle eso.
Lauren: No. Y mi instinto dice que ella es en cierta medida responsable de eso. Pero luego, si alguien comparte esa pista en YouTube, ¿se convierte en un problema de YouTube? ¿Y su plataforma es solo la herramienta donde se creó? ¿Y realmente se puede asignar responsabilidad a la herramienta? Es una pregunta realmente complicada. Y sí, ella realmente parecía no tener una respuesta, ¿sabes? Y así que veo que ella lucha un poco con, como, su propia identidad de quién quiere ser en Internet y si incluso quiere estar tan presente en Internet, pero también a medida que va presentando su arte al mundo, cuáles son los límites en torno a ese arte.
Gideon: También dijo: “En realidad, creo que los deepfakes deberían ser potencialmente ilegales”. Y luego pareció retractarse de eso. Parece una pregunta muy, muy confusa aquí. ¿Qué piensas? ¿Deberían ser ilegales los deepfakes?
Lauren: Eso realmente abrió este portal en mi mente, como, oh sí, ¿por qué queremos deepfakes en la sociedad? Como cualquier tecnología, hay formas en las que podría ser utilizada como una herramienta para el bien, pero, en general, cuando pienso en algo como el video de Nancy Pelosi hablando arrastrando las palabras, que ni siquiera era un deepfake, simplemente se usó la tecnología para ralentizar su discurso y hacerla sonar intoxicada. Estamos entrando en una era política muy, muy tensa en este momento, y los deepfakes van a ser abusados absolutamente. Así que cuando ella dijo eso, pensé, oh sí. ¿Deberíamos tener una postura más firme respecto a los deepfakes?
Gideon: Bueno, no creo que debamos hacerlo. Precisamente este es el problema que, como con muchas de estas tecnologías, una vez que intentas prohibir una tecnología en sí misma o el uso de una tecnología como los deepfakes, te encuentras con casos límite interminables donde prohibirlo para un propósito particular parece innecesariamente censorio. Así que no estoy seguro de que se puedan establecer líneas claras sobre lo que está permitido y lo que no, ya sea en cuanto a una tecnología o incluso a una aplicación específica de esa tecnología.
Lauren: Entonces probablemente deberíamos hablar sobre la masculinidad. Lo cual es algo que no pensé que diría necesariamente en el podcast Have a Nice Future, pero aquí estamos. Le hiciste una pregunta bastante reflexiva sobre su política y las personas con las que se relaciona y cómo parece que está tratando de encontrar un equilibrio. Y luego ella comenzó a hablar sobre la masculinidad y cómo está preocupada por los hombres. ¿Qué opinas de su respuesta a ti?
Gideon: Me pareció interesante que ella mencionara la masculinidad como el problema para ilustrar por qué no se identifica ni con la izquierda ni con la derecha. Y me identifico con lo que está diciendo. Hubo una columna de opinión en The Washington Post hace unas semanas que leí, escrita por Christine Emba, donde habla sobre el hecho de que hay una sensación de que los hombres jóvenes no tienen buenos modelos masculinos. Y como resultado, los derechistas como Jordan Peterson están ocupando ese espacio y dominando el discurso sobre cómo se supone que debe ser la masculinidad. Y eso está alimentando estos debates extremos, estas guerras culturales extremas. Y una de las cosas que se me ocurrió cuando estaba pensando en eso es que, como hombre gay, siento que en realidad hay modelos de rol mucho mejores para los hombres gay en cuanto a cómo ser masculinos de una manera no tóxica. Y creo que eso se debe a que en la comunidad gay hay una especie de tradición de mentoría intergeneracional y relaciones que les dan a las personas más jóvenes un ejemplo de cómo ser un hombre mayor que se comporta de manera decente.
Lauren: Me pareció realmente destacable que mencionara la toxicidad masculina y los derechos de los hombres cuando le hiciste esa pregunta sobre política, porque elegir ese tema en sí mismo es político. Es un tema tan controvertido. Honestamente, me hizo desear poder ser una mosca en la pared en sus conversaciones sobre esto, digamos, con Elon Musk.
Gideon: Y aunque no le preguntamos sobre su relación con Elon Musk en esta entrevista, Steven Levy lo hizo en la entrevista que se publicó en ENBLE.com esta semana, y puedes leer al respecto allí.
Lauren: Entonces, Gideon, ¿crees que vas a empezar a escuchar más música tecno vikinga etérea?
Gideon: Quiero saber qué es la música tecno vikinga etérea, pero me hizo pensar en Sinead O’Connor, y he estado escuchando más a Sinead O’Connor recientemente.
Lauren: ¿Cómo te hizo pensar en Sinead O’Connor?
Gideon: Porque creo que fue la parte etérea. Había algo en su voz que, que simplemente atraviesa la niebla y me hace pensar en tierras tristes y lejanas. Y eso es tal vez lo que, no sé qué es la música tecno vikinga etérea. Tal vez debería hacer una búsqueda en Spotify.
Lauren: Mi otro copresentador de podcast, Michael, me ha recomendado música pop psicodélica sueca, que empecé a escuchar este fin de semana. Así que todavía no estoy muy metida en la música tecno vikinga etérea, pero estoy en camino. Estoy bastante segura de que los algoritmos empezarán a recomendármela bastante pronto.
Gideon: Bueno, cuando encuentres cosas buenas, avísame qué es.
Lauren: Bueno, cuando encontremos cosas buenas, probablemente deberíamos decírselo a c.
Gideon: Ah, absolutamente. Así es. Ella dijo que lo estaba buscando.
Lauren: Tal vez incluso sea de ella.
Gideon: Eso es todo por hoy. Gracias por escuchar. Si quieres oír más de c o de Grimes, puedes ver su entrevista con Steven Levy en línea en ENBLE.com.
Lauren: Have a Nice Future es presentado por mí, Lauren Goode.
Gideon: Y por mí, Gideon Lichfield. Si te gusta el programa, deberías decírnoslo, dejarnos una calificación y una reseña donde sea que obtengas tus podcasts, y no olvides suscribirte para recibir nuevos episodios cada semana.
Lauren: También puedes enviarnos un correo electrónico a [email protected].
Gideon: Have a Nice Future es una producción de Condé Nast Entertainment. Danielle Hewitt de Prologue Projects produce el programa. Nuestra productora asistente es Arlene Arevelo.
Lauren: Estaremos de vuelta aquí el próximo miércoles, y hasta entonces, que tengas un buen futuro.
Dirección de movimiento: Quenton Stuckey; fondos de IA: Sam Cannon; diseño de iluminación: Frank Rios; asistente de iluminación: Jack Duffy; tecnología digital: Logan Bingham; PA: Bobbin Singh; diseño de producción: Wesley Goodrich; estilismo: Turner/The Wall Group; asistente de estilismo: Joey Sigala; cabello: Preston Wada/Rare Creatives; asistente de cabello: Amy Ruiz; SFX MUA: Malina Stearns; asistente de SFX MUA: Sasha Glasser; MUA: Alexandra French/Forward Artists; asistente de MUA: Kayli Rachelle Davis; uñas: Stephanie Stone/Forward Artists; XR Studios; SN37.*
Grimes: top y pantalones de Sami Miro Vintage.
