¡La Investigación MÁS IMPORTANTE que Explica el INTERIOR de una IA!

Рет қаралды 207,378

Күн бұрын

Anthropic ha logrado descifrar el aprendizaje interno de su modelo Claude 3, usando una nueva técnica de interpretabilidad. Con ella han encontrado los numerosos patrones que se esconden en las tripas de la red neuronal, lo cuál no sólo ha permitido entender mejor su funcionamiento, sino también poder controlarla. Hoy explicamos este trabajo.
👉 ARTÍCULO INTERPRETABILIDAD - May. 2024
www.anthropic.com/news/mappin...
👉 ARTÍCULO INTERPRETABILIDAD - Oct. 2023
www.anthropic.com/news/toward...
👉 PAPER INTERPRETABILIDAD - Oct. 2023
transformer-circuits.pub/2023...
📹 EDICIÓN: Carlos Santana Vega
-- ¡MÁS DOTCSV! ---
📣 NotCSV - ¡Canal Secundario!
/ notcsv
💸 Patreon : / dotcsv
👓 Facebook : / ai.dotcsv
👾 Twitch!!! : / dotcsv
🐥 Twitter : / dotcsv
📸 Instagram : / dotcsv
- ¡MÁS CIENCIA! --
🔬 Este canal forma parte de la red de divulgación de SCENIO. Si quieres conocer otros fantásticos proyectos de divulgación entra aquí:
scenio.es/colaboradores

Пікірлер: 561

@DotCSV Ай бұрын

¡No dejéis de suscribiros y compartir el vídeo para ayudar al canal a llegar al 1.000.000 DE SUBS! 🔥

@leninhuerta6309 Ай бұрын

... me gusta la entrada del micro!!... 😜

@MrAjema Ай бұрын

¿Para cuando vídeo de la IA de Apple , que es lo más impresionante y relevante que ha ocurrido en los últimos años?

@mmmvvv5134 Ай бұрын

O sea, este tipo de trabajo tambien puede servir para decifrar como funciona el cerebro orgánico como el del humano, (empezando por ratones), un paso hacia el rapido aprendizaje (copiar y pegar aprendizaje) y procesamiento colectivo de soluciones, (jeje lo ultimmo está un poco exagerado).,

@sunagharta1620 Ай бұрын

Hola, cómo puedo contactar contigo? Si pudieses por favor ayudarme en un proyecto. Gracias ante todo

@jhonj.alk.c411 Ай бұрын

😂😂😂😂😂😂😂😂

@mew6941 Ай бұрын

"Ya me quiero ir a casa jordi" 🤣🤣🤣🤣🤣🤣🤣🤣 te pasaste, como alcanzaste a incluir eso en este video, una frase salida del corazón y de las neuronas de Javi intentando interpretar lo imposible.

@elmegapeluco Ай бұрын

Me he partido de risa con eso yo también, por cierto si te molo el debate, te recomiendo un video que se llama Metatrón vs Nemotrón, es otra fumada muy buena. Saludos.

@pinchaglobos3 Ай бұрын

😂😂😂

@alanandrew97 Ай бұрын

En que min?

@Leibniz_28 Ай бұрын

3:58 😂

@luisangelgaleanoflores6503 Ай бұрын

😂😂😂

@lobo_azul5854 Ай бұрын

2020: las IAs nos van a destruir 2024: la IAs: soy un puente

@edigvn Ай бұрын

"Ahora 💪 hay que controlar a Open AI y Antrophic y a los demás les dará vergüenza quedarse solos...* 😂 😅😅

@pinchaglobos3 Ай бұрын

😂😂😂

@helioshyperion3430 Ай бұрын

*soy un puente margue

@jackdawson2292 Ай бұрын

ya no tendrán a nadie a nadie @@edigvn

@martin-dw Ай бұрын

me hace acordar al de SOY UN AUTO

@jesanabriah Ай бұрын

Acaban de descubrir la gallina de los huevos de oro. Encontraron la manera de meter publicidad de forma natural dentro de un LLM

@HawkX189 Ай бұрын

Si lo juntas con los intereses de la persona ya tienes la maquina de recomendaciones perfecta.

@dixon123ization Ай бұрын

Que asco :(

@juanmaa1414 Ай бұрын

Oh por Dios, no des ideas 😂😂

@Sakkshi_ Ай бұрын

Me duelen los videos cada 1 mes, pero me encanta la calidad de cada video. AAAAAAAAAAAAA. une œuvre d'art

@DotCSV Ай бұрын

Hay que elegir, calidad o cantidad? 😅

@azhuransmx126 Ай бұрын

@@DotCSV Calidad 👌

@XaviIntheHouse Ай бұрын

@@DotCSVen un futuro gracias a la IA podremos elegir ambos😮

@fabrizioAC23 Ай бұрын

@@XaviIntheHouse hasta entonces prefiero calidad, estos videos están en otro nivel😎

@helioshyperion3430 Ай бұрын

@@DotCSV na na na a laburar doc.

@aratheonquark3495 Ай бұрын

"...ya podemos decir que entre las dos empresas han tendido puentes..." XDDDDDDDD

@iSolesArt Ай бұрын

De Oro!!

@oscargonzalezocampo3585 18 күн бұрын

No me j*** 😂

@rolandojtorres Ай бұрын

Antes la IA era muy segura porque no habia como obligarla a hacer algo para lo que no fue entrenada, ahora ya podemos obligarla a hacer lo que el dinero o la politica o el poder digan.

@golfsnake Ай бұрын

Excelente video @DotSCV. Tus difusiones son más sólidas que los cables del puente de San Francisco! Muchas gracias.

@sherlock89 Ай бұрын

jaja lo de Javi está muy bien traído...

@oscarltbro6808 Ай бұрын

Me encantó tu Golden Gate, perdón, tu video.

@sergiomadico8376 Ай бұрын

3:50 hermosa referencia 😂

@alexperez1663 Ай бұрын

Estoy empezando con el mundo de la programación y me fascina lo ingeniosa que es la gente para optimizar los procesos. Vídeo increíble, educativo y entretenido. Gracias

@XaviIntheHouse Ай бұрын

si te adentras en el mundo de los algoritmos, la matematica se hara necesaria y gracias a esa matematica, es que se pueden optimizar aun mas las cosas.

@darkwin_ph Ай бұрын

La obsesion de la iA con el G.G, me recuerda a como funciona el "hiperfoco" en los Autistas al obsesionarse con un único tema

@XaviIntheHouse Ай бұрын

entonces ne estas diciendo que a las IAs le gustan muchos los autos?

@Crasterius Ай бұрын

@@XaviIntheHouse ¿JV? ¿Eres tú? Mándale un saludo al TvNauta.

@alvaroluffy1 Ай бұрын

no creo que tenga nada que ver

@Mr.Maravilla Ай бұрын

@@Crasterius Que o quien es "TvNauta"?

@devbsrtjkko Ай бұрын

@@Mr.Maravilla el protagonista de "perfectos desconocidos".

@antoniomadrid7870 Ай бұрын

Fascinate este vídeo. Esta técnica podría ser poderosísima, tanto para limitar ciertas respuestas como para dar respuestas super orientadas. Creo que sería muy acertado llamar a esta técnica "inception", ya que le metes una idea a la IA y ya no puede salir de ahí 😂

@greenyngchannel855 Ай бұрын

Excelente Carlos. He tratado de explorar como funciona internamente los modelos, mi perfil nacido y crecido dentro del desarrollo instructivo me fuerza a tratar de entender de buscar el como,sin lugar el trabajo de antropic nos lleva a ello y tu video que lo bordas, que haces que sea entendible conceptos y tecnologías complejas ayudan mucho en esa labor , gracias !!

@JorgetePanete Ай бұрын

Me hace pensar en cómo piensan los humanos, ¿y si las convicciones irracionales se deben a un puñado pequeño de neuronas dañadas?

@kouta2594 Ай бұрын

Puede ser a una mal manera de ser entrenadas (unas neuronas del cerebro), como que alguien le explica algo mal desde pequeño y se lo aprende de memoria.

@yoyea2807 Ай бұрын

Aún hoy se asocia erróneamente el funcionamiento de las máquinas con el del cerebro humano. Ahora con las IAs sucede igual. Lo literal en asuntos de IA y ser humano tampoco creo que sea apropiado -aunque sigue siendo interesante

@MissiFull Ай бұрын

Esa es una hipótesis. Pero para empezar, ¿una convicción irracional es irracional por nuestra incapacidad de ver la función (razón) de esa convicción? - Este sería como una "anti-hipótesis" en la que se plantea que toda convicción "irracional" tiene una razón de ser (racional)

@yoyea2807 Ай бұрын

@@MissiFull Las convicciones siempre son culturales, así que no son verdaderas o falsas (racionales o irracionales), sino útiles o inútiles según el contexto.

@MissiFull Ай бұрын

@@yoyea2807 Tiene algo de razón lo que dices, pero también entra en juego la evolución. Ya que para existir una convicción debe haber mecanismos psicológicos que permitan la formación de esa convicción.

@PabloSanchez-ih2ko Ай бұрын

Que ilusion que hayas hecho un vídeo de esto! Yo estoy haciendo mi tesis de este tema y es súper interesante 😊

@rulig0 Ай бұрын

La carita de Javi en lo de Jordi ❤ 3:47 ... cuando trataron de refutar el E:mc2 con una pizarrita no tiene desperdicio, es un santo y les respondio sin faltar el respeto ni humillarlos

@agnosticoparatodo Ай бұрын

Ayer esperaba el vídeo jajajajaja. Hubo muchos cambios en IA estas semanas.

@fernandohidalg0 Ай бұрын

@DotCSV excelente como siempre. Sin duda la mejor explicación en castellano, sobre esta prometedora investigación de Anthropic AI 💯 🙌 👏👏👏👏

@prebuf Ай бұрын

Esto será el primer paso para analizar cerebros humanos y si se usa correctamente, poder eliminar traumas o comportamiento no deseado en las personas, digamos que en segundos en lugar de ir a un tratamiento psicológico durante años.

@test124 Ай бұрын

Na, jamás pasará eso jaja

@Raulikien Ай бұрын

Literal, lavado de mente lol

@sergioT121 Ай бұрын

Sale mk ultra 2

@devbsrtjkko Ай бұрын

Wow lo que la cia le gustaria oir .

@Jonajj Ай бұрын

Totalmente. Aunque los que tienen el ego inflado creen que el cerebro humano es inigualable y "mágico", pero la IA cada vez nos va a quitar esa idea.

@lordsinber5273 Ай бұрын

Que excelente video. Apenas voy por el 20:03 pero se me ocurre utilizar esta técnica de obsesión artificial para poder usar modelos dedicados a una tarea sin tener que hacer un fine-turing al modelo. ¿Quieres un modelo bueno en debug?, pues maximiza las activaciones encargadas de hacer debug.

@IgneousGorilla Ай бұрын

Tal cual

@newzord Ай бұрын

Inteligencia Artificial aliñada con un poco de humor!!! Gracias @DotCSV

@GabrielAndresAlzate Ай бұрын

Muy buen video Carlos. Gracias por compartir.

@josuequiros1170 Ай бұрын

Excelente Carlos, otra gran obra maestra de explicabilidad sobre explicabilidad 👏🏻😆

@conduccion-eficiente Ай бұрын

¡Gracias!

@albertoroman92 Ай бұрын

El análisis de la IA para entender otra red neuronal me recuerda mucho a la escena de la película "Transcendence" en la que el Dr. Will Caster conecta varios sensores a su cerebro y procede a decir una serie de palabras/frases para transferir su consciencia a una máquina ❤

@alfonsolopez1605 Ай бұрын

el siguiente paso es ese, fusión máquina-cerebro. un salto evolutivo imparable

@ernesto.iglesias 27 күн бұрын

@@alfonsolopez1605a elon musk le gusta tu comentario

@fernandochavez4364 Ай бұрын

Cómo me encantan tus videos, me hacen a no parar de aprender, porque haces que me motive a seguir.

@cchavarria Ай бұрын

Enhorabuena Carlos! Haces un muy buen trabajo de divulgación. Sigue con ello❤

@juancarloshoyosp Ай бұрын

Que bueno verlo, pense que KZfaq no me estaba recomendando su canal! 😊😊😊

@ppgf Ай бұрын

Genial y directo como siempre Carlos! un abrazo!

@tomasbaron8465 Ай бұрын

Y asi tambien podemos alinear a los modelos con los valores que permitan a la humanidad estar en control y prosperar. 💪

@ianholing Ай бұрын

Buen vídeo Carlos! Más como este :)

@urucolo Ай бұрын

Gracias Carlos

@raultrejos3257 Ай бұрын

Que buen video! Muchas gracias por compartirlo.

@reggietkatter Ай бұрын

Tremendo vídeo señor. Gracias por la buena información y la clase magistral en divulgación científica.

@tradeideas2400 Ай бұрын

Tremendo video Carlos. Gracias por educarnos con contenido de alta calidad!

@sammash Ай бұрын

Qué Interesante, Bravo por tus vídeos, siempre tan bien explicados y montados.

@nancygtec6298 Ай бұрын

Excelente contenido! Ciertamente es un puente fascinante.

@hersap Ай бұрын

Uff tremendo video, muchas gracias por tu esfuerzo para explicar estos temas !!!

@SpOoLk2 Ай бұрын

Se echaba de menos estos videos.😊 gran trabajo

@fx.minecraftgamer2370 Ай бұрын

Ese micro entrando en escena...👌

@SonGoku-pc7jl Ай бұрын

buenisimo el video :D muchas gracias Carlos! Que explicación más buena todo en general y en especial lo de explicar el autoencoder con la luz tema bonito jeje

@ElenaMartínLuque Ай бұрын

Carlos, como siempre, tendiendo puentes entre nosotros y los avances en IA.

@sebasnolascop Ай бұрын

Esto me recuerda cuando en la película Yo Robot, con Will Smith, los robots cambian de "buenos" a "malos" como si se le cambiara un parámetro, y cambian el comportamiento completamente 😶‍🌫️🤖

@cristianpadron853 Ай бұрын

Ya extrañaba videos así! :D

@universemaps Ай бұрын

Muy buen video, me da esperanzas... gracias!

@christianolazabalsarmiento9599 Ай бұрын

Que genio! Estuvo muy bueno el vídeo

@mariorubio9809 Ай бұрын

Increíble el vídeo. Genial.

@CatGhostly Ай бұрын

Excelente video, cada vez la IA avanza más y tus videos me ayudan mucho a entender como avanza todo este mundo

@DanielSanchez_col Ай бұрын

interesante, saludos desde Bogotá

@jackeldestripat Ай бұрын

Gracias Dot eres el mejor. Este paper no lo entendía del todo ahora ya si 😊

@chambilucanavidal4514 Ай бұрын

Mientras tanto Open AI: _Esta información vale millones_

@oe4038 Ай бұрын

Pedazo de vídeo! Bueno, igual que siempre. Pero hoy lo he disfrutado al extremo, por alguna razón.

@jeremyg. Ай бұрын

Esto puede ser muy util en el tema de los Mixture of experts, potencias mucho un solo sector con las neuronas especificas de cada tarea que quieres, ahorrando muchos recursos de procesamiento y tiempo con el plus de que se sesga a cumplir la tarea que le pidas más acorde con sus neuronas.

@schcriher Ай бұрын

24:09 No no, han tendido *UN* puente 🥁

@inakiurruzuno1886 Ай бұрын

Interesantísimo... Y muy divertido! Jajaja, muchas risas con el puente

@castrorilke 14 күн бұрын

este tipo es genial!, gracias por tu trabajo, saludos desde REPUBLICA DOMINICANA

@pepeperez1898 Ай бұрын

Gracias por la info

@SebastianCompagnino Ай бұрын

excelente info, gracias como siempre

@sergioluisdelacruzacosta5588 Ай бұрын

Excelente, esto esta de locos 😁

@ElInventor Ай бұрын

Solo espero que ese control lo tengamos nosotros, y no el gobierno.

@Crasterius Ай бұрын

El gobierno sigue como en la edad media. Tu tranquilo.

@ElInventor Ай бұрын

@@Crasterius ¿Recuerdas cuando Google no permitía que su IA hiciera blancos, y hacía nazis negros? Imagina una IA que de esta manera detecte las cosas que al gobierno no le interesan, como en China.

@emilioeduardo8478 Ай бұрын

Es el peor error , pensar que no lo tiene... @@Crasterius

@destroRT Ай бұрын

Me encanta este puente, me recuerda a mi infancia cuando fui a san francisco y las vistas eran preciosas, se podía ver a lo lejos una hermosa construcción naranja! like like like

@bdoriandasilva Ай бұрын

muy interesante!

@mariojuniortorresperez7837 Ай бұрын

Suscrito. Mucha información valiosa en tu canal

@etcheverrypablol 25 күн бұрын

This video is amazing!!

@rdaniel2p Ай бұрын

Excelentemente explicado!

@box1702 Ай бұрын

Re interesante!!!!

@Lv7-L30N Ай бұрын

muy bueno, gracias

@microsherpa Ай бұрын

Buen vídeo, muchas gracias

@cephvideo 2 күн бұрын

Como siempre muy educativo y didáctico el contenido gracias

@iSolesArt Ай бұрын

Qué máquina!!!! GRACIAS

@rodolfojoseduranarellano9139 22 күн бұрын

Excelentisimo

@Irv.GuidoYT 14 күн бұрын

Cuánto amo este canal ! ♥️ sigue con ese gran trabajo señor felicidades tenga un croissant 🥐

@lr2t9iz 15 күн бұрын

Thanks!

@ortencen Ай бұрын

gran video!! 😮

@anahenriquezorrego8788 Ай бұрын

Que buen video 🙌

@SBLP24 29 күн бұрын

Tremendoo! Es decir que uno podría grabar personalidades?? Es decir una vez identificado una base de neuronas que son lo suficientemente grande y complejo (tal vez no tan grande) que pueda describir a un ser humano .. podrías darles recuerdos, historias, fijaciones, miedos y más.. es como darle un "Backstory" la famosa "Cornerstone" en Westworld... me parece una locura! Que momento para estar vivoo!

@jackgaleras Ай бұрын

Saludos y gracias por el video

@juanpavezquijada8717 Ай бұрын

Interesante, podría ser un metodo de decodificar algunas funciones desarrolladas por los modelos y así generar más conocimiento.

@RR-lw8en Ай бұрын

Que interesante 🤔, se parece mucho a la obsesión 😵‍💫 o a la focalización 🧐del pensamiento.... muy análogo al comportamiento psicologico humano, aunque me da la impresión que en el caso humano hay una componente de retroalimentación 🔁, que en casos extremos, puede llevar a cosas como la ideacion suicida con la obsesión con pensamientos negativos ( autodestrucción ) ☠o la genealidad en el caso de la focalizacion con un tema 💡

@pablorodriguez6318 Ай бұрын

Carlos muy buen trabajo! Me leí el paper y luego OpenAi lo ha incluso expandido. Me pareció de lo más grande que se ha visto. Yo creo que no tanto para control, pero como forma de dar al modelo comprensión sobre su cognición. Nosotros los humanos tenemos control y entendimiento sobre nuestros razonamientos. Creo que el trabajo de sparse auto encoders puede ser el inicio de cambio de arquitectura de los modelos. Los transformers son en mi opinión demasiado granulares, necesitamos algo que permita un nivel de abstracción mayor que permita codificar conocimientos no memorizados pero desde un punto de vista de axiomas y lógica. Y claro dárselo al modelo para que pueda reflexionar sobre si mismo

@armelbrizuelarodriguez Ай бұрын

Excelente video ❤❤❤❤❤

@francolosasso6228 Ай бұрын

Muy bueno

@GonzaloCobos Ай бұрын

Esto me recuerda al libro de Philip K. Dick "¿Sueñan los androides con ovejas eléctricas?" en el que se usa habitualmente el "órgano de emociones" (Penfield mood organ), que permite a los personajes ajustar sus estados de ánimo mediante la manipulación de un dial y un control de intensidad. El mundo de la IA va tan rápido, que ¿quién sabe lo cerca que estamos de eso?

@EE-up6hl Ай бұрын

hasta que no se combine con la química no va a suceder nada ni tan siquiera similar a lo que es una persona, ya que sin el componente hormonal que nos otorga la emocionalidad y el carácter, el cerebro quedaría simplemente en una maquina de cálculo

@Eri3t5co Ай бұрын

un descubrimiento muy intetesante. Siempre hay q pensar en los malintencionados. Abre una puerta peligrosa tb. Aunq supongo q aun quedara tiempo para poder controlar modelos tipo LLM en este sentido. Pero no estoy seguro.

@jesusgilbert9944 Ай бұрын

Gracias puente de San Francisco por subir éste maravilloso video! ❤

@VolkerT00 Ай бұрын

Ahora que hagan los modelos de IA´s como los del juego Portal, el obsesionado con el espacio, el que tiene miedo, el que es inseguro, y asi, hasta crear a GLaDOS

@alejandrocaballero2779 Ай бұрын

Imagina tener ese control sobre las IAs mientras éstas se están entrenando. Pasaríamos de entrenar modelos de lenguaje durante meses a tener una IA que ofrezca resultados sobresalientes en minutos

@Mrroot-nr8xk Ай бұрын

Muy buenazo! Me quedo una duda de a qué se refiere con activar más, se incrementa a mano el valor de los pesos o como así? Gracias!

@jorgevicent9808 Ай бұрын

@DotCSV justo en eso trabajamos en el ISP (Universidad de Valencia). Pásate un día por aquí y te comentamos

@Javierdecaracas Ай бұрын

me encantan tus bideos de verdad te felicito mucho hermano desde aquí de venezuela

@alfonsolopez1605 Ай бұрын

esto es como escudriñar el funcionamiento del cerebro humano y explicar el surgimiento de la conciencia, ese ente separado del cuerpo pero que influye a la hora de ejecutar las ideas.... ummm superinteresante! Alma-cuerpo vs AI-hardware increíble vídeo... muchas gracias y a seguir

@aminadabcruz Ай бұрын

Justamente en eso pensé también, no sabemos todavía como surge la consciencia y ya andan buscando lo mismo en sistemas tecnológicos

@alfonsolopez1605 Ай бұрын

lo de sentirse el puente Golden Gate se podría extrapolar a una neurosis, jeje

@alfonsolopez1605 Ай бұрын

o un simple trauma! ;-)