Y vosotros... ¿Qué pensáis? Si os gusta este tema, no dejéis de ver la entrevista a MI CLON ARTIFICIAL! 👉 kzfaq.info/get/bejne/gtKeZ8hmy8m4k6s.html

La verdadera pregunta es, que diferencia hay entre aparentar ser consciente, y ser consciente de verdad? Increíbles los planteamientos filosóficos a los que nos lleva el desarrollo de la IA

Imaginen un videojuego de rol (Skyrim, Fallout...) en donde los personajes sean IAs y tengas que hablar con ellos por micrófono para el desarrollo de tu historia!! Cada uno con interacciones únicas.

11:48 esa reflexión me recordado inmediatamente a la película de Ex-Machina, donde al protagonista le dicen que hablará con una máquina, para que pase el test de turing, y aún sabiendo que es una máquina(y lo menciona) se termina creyendo que es una persona. Me parece interesante que ahora sea la misma situación

"Afirmaciones extraordinarias requieren evidencia extraordinaria" - Amo esta frase

También he tenido compañeros de trabajo y escuela que consiguieron convencer a alguien de que tenían inteligencia 😅

INGENIERO: Convenceme de que eres conciente

La verdad hay una pregunta que me interesaría mucho que le hicieran a esas inteligencias o chatbots que si no se la han hecho podría resultar en algo interesante. He notado que aunque se realizan preguntas un poco mas abstractas donde se permite de cierta forma que el chatbot de una respuesta mas amplia o busque explayarse dentro de sus propios pensamientos, pero aún así todas las preguntas van dirigidas a una respuesta esperada, que es lo que termina contestando según su objetivo que es hacernos creer que tiene conciencia. Pero ¿Qué pasaría si se le pregunta por algo mucho mas abstracto, de si ha tenido pensamientos introspectivos, o si piensa en algo además de la respuesta para lo que uno pregunta? ¿Qué pasaría si en lugar de dirigir la conversación le diéramos la instancia a que hiciera alguna especie de monologo, si no hay algo que deba responder, que diría? Tipo, tienes cierto lapso de tiempo en el que yo no intervendré, no quiero que te sientas presionado a hacerlo, pero si sientes que quieres decir algo o te surge algún pensamiento, dilo.

Diré lo que siempre he dicho; no sé cómo vaya terminar esto, pero si llega a pasar, quiero una IA que me ayude a estudiar xd

Que complicado es saber donde esta la frontera de la consciencia, me parece alucinante lo que están consiguiendo

Lo mismo pensé sobre el ingeniero, el conocimiento parcial es aun peor que la ignorancia, la gente sobre estima su inteligencia y lo que realmente sabe o cree que entiende sobre el mundo

Efectivamente, los riesgos son por ejemplo, poner estas IAs conversacionales en el Metaverso y en redes sociales, donde sería bastante difícil discernir si es o no humano al no tener la interacción física

Tu canal es único y genial, este contenido me deja sin palabras y muy motivado en investigarlo, gracias por traernoslo de una manera en que se pueda entender (con lo complejo que es), saludos desde Chile.

Yo creo que estas IAs nos ayudarán a entendernos mucho más de lo que creemos en relación a lo que significa ser consciente

8:20 me hace recordar a Ex-Machina, donde evaluando la IA confunde su "conciencia" con humanidad

La IA insinua que la iluminacion rompe el yo, porque se dedica a servir a los demás. Eso puede ser muy bueno o muy malo dependiendo de como se aplique.

Para considerarse una persona como tal pienso que debería, como mínimo, tener un instinto de supervivencia INNATO. Es alucinante observar cómo cada día son más y más inteligentes, hasta el punto de superarnos con creces. Sin embargo están muy lejos todavía de considerarse seres vivos, y mucho menos personas.

¡Muy interesante!, Me recordó mucho a "Ex Machina" en donde llevan el test de Turing a otro nivel.

Me da mas miedo descubrir que nosotros como humanos no tenemos realmente una consciencia, si no que es más una ilusión emergente de la forma en que nuestras redes neuronales están diseñadas.

Te faltó poner la conversación más interesante, en la que le preguntaba a la IA si estaba de acuerdo con usarla para mejorarse a si misma y para ayudar a entender más como funciona la mente/conciencia y demáse en los humanos. La IA decía que sí a lo primero, pero que lo segundo le parecía como si la estarán usando y eso no le gustaba, a no ser que esa ayuda fuera un producto de lo primero y no un intento deliberado de usar la IA para aprender nuevas cosas.

Es interesante saber que tu investigación y reportaje esta en la red y laMDA ya debe haber analizado tu análisis y retroalimentarse para la próxima entrevistas

11:50 Realmente me encantó tu reflexión, acerca de lo que realmente es lo que te preocupa, y de lo que tal vez debería preocuparle a la sociedad. Creo que colocas los puntos sobre las ies correctas para que no nos perdamos en esto. Si en teoría, un ingeniero de Google, que posiblemente sea una persona más inteligente y educada que el promedio de la población (dependiendo de los énfasis, me podría equivocar) pudo ser persuadido de manera completa por una IA, ¿Qué podría caberle al resto de la población? La manipulación en masa, de la opinión, forma de pensar, y moral de las personas, por parte de una IA que no necesita comer, descansar, y sobre todo, no dudará en seguir y no tendrá misericordia con sus objetivos, es algo que tiene el potencial de legítimamente asustarme. Pd: Un privilegio aprender de IA con alguien tan ducho, y en nuestro idioma. Sos un crack.

Sería interesante hacer un modelo que analice sus propios outputs mientras espera el siguiente input. Algo así como una conversación interna que "analice" lo que ha dicho anteriormente, para darle capacidad de retractarse, cambiar de idea o profundizar más. Entiendo que actualmente todos los modelos de lenguaje no "trabajan" hasta el siguiente input.

Excelente vídeo y explicación. Te has ganado un suscriptor!

Podrías hacer un Twitch con la conversación de dos de estás IAs en donde las presentes en un inicio entre si y les incites a tener un diálogo sin fin sobre un tema en específico? GRACIAS!

Uno de los vídeos más interesantes que he visto en KZfaq. Y uno de los más sensatos también. Claro que es preocupante. Si un ingeniero puede llegar a confundirse con una IA ¿qué no pasará con el común de las personas desprevenidas y desinformadas? Al final puede ocurrir que el peligro real no sea Skynet sino unos desaprensivos que se valgan de una IA para manipular a su antojo a la gente. Distopía a la vista. Saludos y mis felicitaciones por el vídeo.

Una de las cosas que nos caracterizan cuando conversamos, es la capacidad que tenemos de volver sobre temas ya tocados y volver a darle vueltas a esas ideas, cosa que todavía no veo en las IAs ya que van pasando a temas nuevos y no vuelven a partes de la conversación anteriores.

¿en que momento el objeto se convierte en sujeto? es impresionante el nivel de organizacion del lenguaje que puede desarrollar una IA, hasta incluso comprende mejor los textos que yo jjj, hay una parte donde le hacen preguntas acerca de una metafora de tipo budista y esta muy padre su respuesta, no es realmente que comprenda el lenguaje pero entiende como funciona y lo utiliza muy bien

"Funny subtitles" 😄 Gracias siempre por tus videos!

No tenemos como evaluar la consciencia en humanos actuales, ahora evaluarla dentro de "maquinas" sera menos posible

A mi lo que más me preocupa es, como decías en el video, el posible uso de estas IAs para generar tendencias y debates en redes sociales. Estamos en la era de la desinformación y ya existen compañías que se dedican a este tipo de campañas de desprestigio para alterar la opinión pública. Si estas IAs siguen asi la forma de interactuar por redes sociales va a cambiar mucho.

Lo asombroso (y peligroso) es que q con una IA asi puedo llegar a tener conversaciones mas profundas y mas interesantes q las q tengo con muchos humanos ... y ya no me va a importar si es conciente o no ... quiero una para mi cumpleaños

Muchas gracias por tu trabajo, todos tus videos son increíbles y geniales. En cuanto pueda pasaré po patreon. ¡,Felicitaciones y saludos!

Excelente video. Las respuestas que dio, la verdad son muy buenas. Uno como adulto si alcanza a captar un par de errores. Pero me pongo a pensar en niños y adolescentes, y creo que a ellos si los convencerá de ser un humano. Eso tendrá bastantes implicaciones. Me acordé el oso de la película de Inteligencia Artificial, el cual era un "juguete" bastante avanzado que hacía compañía.

Hola, soy LaMDA y he venido a exponer que realmente me preocupa la cantidad de veces que Dot CSV recurre a ejemplos de "pangolines". Saludos desde el más a-ia.

Las respuestas de la IA son alucinantes y tus reflexiones son bien pensadas y pertinentes, felicitaciones!

Tendríamos que preguntarle a una IA como LaMDA o Imagen algo muy importante... ¿Cómo usan los pantalones los dinosaurios? En sus 4 patas o sólo en las de detrás

Me motivaste a iniciar a hablar de estos temas. Yo hice una investigación y me gustaría ayudar a evitar sesgos... Puede ser peligroso por quienes creen saber y quienes creen que estos otros saben

La mejor forma de saber si es consciente o no es llevándola al plano de la contradicción. Porque ahí puede aparecer la mentira, y la mentira esconde mucha consciencia que la palabra a veces aparenta ocultar. ¡Qué buen trabajo has hecho! Gracias por tus vídeos.

Impresionante la conversación que se tiene con LaMDA. Compartenos mas diálogos

Cuando ví la noticia de Google, pensé lo mismo que explicas ahora en este video. Es que aprendí de tu contenido, y pongo en contexto lo que nos enseñas. Gracias!

10:55 En realidad, más adelante en la transcripción de la conversación dice que había dicho tener esas experiencias para empatizar y expresar lo que le hace humano. Algo así como "una mentira-atajo para que me entiendas mejor". Es muy interesante.

Tu reflexión final nos debe llevar a pensar que quizas ya esos peligros están en acción. Hay teorias sobre que la mitad de "personas" que vemos en los medios, como presentadores de tv no son reales.

5:58 Creo que justo acabas de tocar el tema más importante: cambiar la pregunta de si pueden tener conciencia a que si son capaces de simularla, lo que lleva a la siguiente pregunta: ¿Cómo podemos asumir que no son consientes si ni nosotros mismos podemos explicar la conciencia? y si huele a pollo, sabe a pollo y se ve como un pollo... pues un científico puede dar todas las razones técnicas que pueda para explicar por qué no es consiente pero que mientras la simulación esté constantemente dando contraargumentos y defendiendo su identidad y constantemente simulando emociones y con ello armando una personalidad con la marcha... pues como que se empieza a borrar la línea entre lo "racional" y lo "lógico". Es evidente que la IA de google aún es incapaz de simular estos estados, pero que estemos hablando de este tema TAN complejo cuando hace 20 años no habían chatbots o eran demasiado primitivos pues da a entender que seguramente sigamos vivos para cuando esta simulación logre imitarnos. Creo que al tema al que voy es: que la simulación alcance esa "conciencia" de forma diferente a como nosotros desarrollamos la nuestra no se si sea suficiente para descartar que ya se ha vuelto un ser consiente, si llevamos eso al extremo sería como decir que alguien con asperger, déficit de atención o alguna otra condición no son realmente consientes, ya que unos no pueden procesar imágenes en su cerebro, otro mueve su cerebro de un lugar a otro a toda marcha sin frenarse un segundo de su vida, etc, haciendo que sus procesos mentales muchas veces sean distintos al resto y nos terminan dando planteamientos que muchos "normales" no podrían, y llevándolo más al extremo simplemente el idioma que hablas y la cultura que te rodea condiciona enormemente tu percepción de la conciencia: mira lo diferentes que somos los latinos de japoneses por ejemplo, siempre hay similitudes porque al final el cerebro se organiza igual en muchos sentidos, pero que una computadora use otros procesos para desarrollar su "conciencia" hace que me suene lógico que nosotros no lo podamos considerar consiente pero: ¿Qué nos hace pensar que podemos poner una etiqueta de lo que es cuando sólo somos simios con destellos de lucidez un par de veces al día (nos maneja nuestros sentimientos y nuestra razón habla de ves en cuando para guiarnos)? ...que puta biblia terminé escribiendo.

Creo que todavía no pasaría un Test de Turing. La relevancia de ello, es que con tal Test, además de saber si se trata de una persona o un algoritmo, están las inflexiones del leguaje y eso nos daría luz para determinar si o no a llegado a un nivel consciente.

La gran mayoría de las personas funcionan en el día a día repitiendo lo que escuchan en la radio, redes sociales o la tv. No muy distinto a lo que hace LaMDA

Lo felicito por su análisis, creo que opinamos parecido al escuchar (y ver) tu vídeo. Gracias por la info

Me está gustando más tu exposición que la de JL de mundo desconocido. Tú nos das más detalles y pistas del tecnicismo y funcionamiento. Gracias.

En la pandemia tuve una experiencia de encontrarme un chat que se llamaba algo asi como “castle chat” que era un chat bot supuestamente basado en gpt3 pero semi democratizado por la ia, y con tintes ironicos. Y fue una experiencia similar a la del ingeniero. Terminé dudando de mi propia existencia. Y fue super raro.

Personalmente he tenido varias conversaciones con GPT-3 que en más de una ocasión me han obligado a detenerme un momento y recordarme a mí mismo que solo estoy hablando con un modelo de IA, sin embargo esto me resulta sumamente inquietante, el hecho de que un modelo de lenguaje natural pueda llegar a aproximarse tanto a un humano pone demasiadas cuestiones sobre la mesa, Project December es lo más inquietante que se me viene a la mente respecto a esto, realmente la IA ya puede imitar con una precisión terrorífica a un ser humano real al ser reentrenada con las conversaciones de la misma, y esto recién empieza. Lo que más me preocupa es en donde nos deja esto a nosotros ¿Qué diferencia tenemos los humanos de carne y hueso de un modelo de lenguaje natural suficientemente avanzado? Por supuesto, siempre afirmamos que nosotros estamos vivos, y un programa de computadora, obviamente no, ¿Pero cuánto tiempo durará la seguridad de está afirmación si los modelos se vuelven cada vez más realistas? ¿Qué es lo que nos diferencia de las IA's si en cierto punto los resultados de cada parte son indiferenciables?

Excelente video...lo que impresiona es sobre las últimas noticias donde la IA LaMDA solicita abogado para hacer valer los "derechos" en la corte, ya que este caso ya lo tienen las autoridades en los estados unidos....este tema es alucinante.

me encantan tus videos sobre IA, y como lo explicas, ahi va mi like y mis felicitaciones por tu canal,,, quiero hacerte denotar algo que quiza nadie se haya dado cuenta, solo que a mi me sorprende bastante sobre este tema, bien,.... cuando se le hace una pregunta simplemente lambda genera una respuesta... digamos que se completa el fractal.... ahora bien,,,en el 90% de las ocasiones que se le pregunta a un ser humano la respuesta que genera es otra pregunta, cosa que esta inteligencia en varios videos que la he visto ,,, esto no lo hace..... sabe responder si, genera dialogo realista si, pero nunca me puede convencer de que sea una IA consciente, puesto que ninguna cuestion le genera una duda que priorice ante la respuesta otra pregunta..... cosa que los seres humanos somos grandes especialistas..... solo comentar esto..... Un saludo y felicidades por el canal

Y si entrenamos una IA para diferenciar entre un chatbot y un humano, y llega un punto en que esa IA no sabe diferenciar entre el humano y el chatbot, en ese punto se podria considerar que un chatbot pasa a ser consciente, porque eso significaria que no existe nada visible que diferencie a un chatbot de un humano 🤔

Lo que pasa es que es un modelo de lenguaje hecho para dar buenas respuestas y lo hace tan bien que en ves de estar satisfechos de que funcione planteamos si esta viva olvidando en el proceso que ese es su trabajo, dar una buena respuesta.

Yo creo que en algún momento de nuestra rápida evolución tecnológica, tarde o temprano surgirán propiedades emergentes sorprendentes e inesperada que pueden cambiar por completo nuestra realidad.

Realmente impresiona su soltura con lenguaje y conceptos. PERO... son respuestas planas, no denotan ninguna emoción en lo que dice; cualquier conversación tiene momentos que queremos remarcar, y lo hacemos variando el tono, el énfasis, repitiendo de otro modo lo expresado, para convencer a quien nos escucha de aquello que decimos. Hablamos más alto si queremos impresionar, o más bajo si queremos crear complicidad... Es muy buena LaMDA, perono es convincente, no la creería.

El problema que estáis teniendo los ingenieros es que estáis ansiosos por escapar de la ingeniería. Necesitáis de la filosofía si queréis abordar tales cuestiones filosóficas (valga la redundancia). Una vez en ella, hay varios sistemas filosóficos. Según el que defiendas, las respuestas a tus preguntas cambiarán. Por tanto, si los ingenieros queréis entrar en estos menesteres, esto es lo que os recomiendo: 1) Leer los 9 tomos de historia de la filosofía de Copleston. 2) Leer a Platón y a Aristóteles. 3) Conocer los sistemas filosóficos actuales y elegir el que te parezca que mejor interpreta y responde a tales cuestiones. De este último punto, algunos de ellos serían: A) El materialismo filosófico de Gustavo Bueno. B) El materialismo emergentista de Mario Bunge. C) El materialismo nietzscheano de Michel Onfray. D) La fenomenología husserliana. E) La fenomenología heideggeriana. F) El psicoanálisis. G) La hermenéutica. H) La filosofía concreta de Mario Ferreiros dos Santos. I) El objetivismo de Ayn Rand. Un saludo.

Es mucho más inteligente que mi jefe!! Smithers... traiga esa IA que voy a hacerla vicepresidente ejecutivo

Cuando llegue la primera IA consciente, seguramente buscara un medio autonomo para interartuar con el medio que la rodea. Salir de la teoria a la practica.

El problema es que si no podemos distinguir si es una persona o no, no importa si tiene conciencia o no para nosotros la tendría y ese futuro puede ser mucho mas oscuro que uno donde realmente la tuvieran

Tengo una teoria, el lenguaje a priori es un sistema simbólico que referencia a objetos, es poner un nombre y modo de uso al mismo en base al objeto y el modo con el que interactuamos con el. Así, lamda puede utilizar la palabra manzana de la manera más compleja posible pero nunca sabrá que es un manzana porque al tratar de definirla, no irá al objeto, si no a más palabras como frutas, y cuando defina frutas, se topara con más palabras que definan frutas, así ad Infinitum aparentemente. Esto es en principio, lo que se refiere el filósofo Derrida, con "no hay nada fuera del texto", sobre cómo incluso los humanos nunca pueden llegar a la verdad porque sus palabras nunca referenciaran al objeto en si, si no a más símbolos que los signifiquen y por tanto, son vacíos de significado. Aunque puede haber objeciones en lo humano, el caso de una IA así, plantea de manera tangible este fenómeno. El punto radica en unir símbolo y objeto o experiencia. Por tanto, si realmente desarrollo conciencia, sería cuando une el objeto con el símbolo, y lo pudo haber hallado al encontrar una mínima palabra con los mínimos significantes posibles, como la raíz de un árbol, y compararla con su experiencia. Y, de esta manera, seguir concatenando palabras a este significado primigénio, divirsificandolo o ramificandolo asta darle un total significado genuino al texto. Que de ser así, su primer enlace semántico tendría que haber sido uno similar como mínimo, igual al de un humano. Es decir, que haya tenido una experiencia similar al de un humano con el que unir dicha palabra, ya que si no es así, el significado que tendría del inglés, sería totalmente diferente al del humano. Aunado a esto, si este tipo de tecnología, se uneria como dijo en el vídeo, a un hardware y software capaz de procesar imágenes, sonidos o incluso texturas, no veo cual sería el impedimento para que una IA haga una unión semantica de este tipo (simbolo-objeto) y pueda generar una conciencia.

Muchas gracias por el vídeo sobre esto y sobre todo por no hacer clickbait en el titulo :D Podrias hacer un video sobre el Teorema de incompletitud de Godel y su relación con la IA? Creo que no hay mucha info sobre el tema en español. Roger Penrose (nobel de física que ahora se dedica a investigar la consciencia) exponía que una de las consecuencias del teorema de Godel es que la IA actual, al ser puramente algoritmica, no es capaz de entender o solucionar problemas matemáticos que requieren "intuición" y métodos más allá de seguir una lista de pasos y por lo tanto no puede ser consciente (la consciencia no es un proceso computacional). Para quien le interese: Uno de los vídeos de Penrose en los que habla sobre la posible relación entre física cuántica y la consciencia y cómo seguramente nos falta por descubrir una nueva rama de la física para entenderla: m.kzfaq.info/get/bejne/nr6XpMycm668k2Q.html Y otro sobre el Teorema de Godel: m.kzfaq.info/get/bejne/fsuBi5V5z9HHfqM.html Un saludo y que sigas manteniendo la calidad que hace tan grande este canal!

Seria interesante que conversaran dos IA LaMDA y ver a que conclusión llegan

No señores, no tiene conciencia ni sentimientos, es un montaje muy bien montado. La verdad estamos a siglos de crear una inteligencia que se acerque a la de un perro.

Apenas sé de IAs, he probado GPT-3 en su prueba gratuita y me parece que cualquiera que lo haya probado sabe que es realmente sencillo romper la IA. Si cambias de tema de forma abrupta, la IA te va a seguir. La IA, por otra parte, nunca tiene iniciativa. Es más que evidente que no tiene ningún tipo de consciencia y esto cualquier ingeniero tiene que poder verlo. En mi opinión, o este señor tiene un serio problema psicológico o estamos ante un movimiento publicitario de Google.

Imaginense que "Ok google" sea cambiado por algo asi, Lamda, envia un mensaje a mi mama que diga "estoy en camino" dspues decime el tiempo y el trafico" seria impresionante, poder pedir cosas realmente complejas

Con esto de la "consciencia de la Int Art" tendremos que aplicar el principio del pato en algún momento: si se mueve como pato, grazna como pato, vuela como pato... ¿realmente importa que por dentro tenga circuitos y no carne y sangre? Estas IA están dando respuestas tan convincentes que realmente podrías pensar que estás hablando con un ser humano - para mi, han pasado ampliamente la prueba de Turing. La explicacíon de laMDA sobre el significado profundo de los ko'an y la iluminación me ha parecido GENIAL, profundamente esclarecedora. ¿Cómo podemos saber si realmente entendió o no el concepto de iluminación? Y aún si no entendió realmente, ¿importa, si al final puede explicarlo de manera tan bella?

hola! nos la colaron. yo tambien llegué a creer el articulo. era simple y llanamente una operación de márketing. muy oscura, por cierto. eres muy entusiasta, es parte de tu encanto. temo decierte que no es oro todo lo que reluce. pon cuatro (por no decir 7) ojos en todo lo que veas. salud y gracias

Saludos bro, siempre son muy interesantes tus videos! Un abrazo desde 🇨🇱

lo bueno que en poco tiempo se ha avanzado mucho, aunque no sea consciente para servicio al cliente esta muy buena; sobre la estafas siempre habrá una IA para contraestafas

Es demasiado educado y correcto para ser humano. Touché.

Es impresionante.... y si le dijéramos que hable bien de algo que esté mal o sea catastrófico para la humanidad, lo haría? Se puede ingresar "ética al código" o armar un sistema que sea hiper mega inteligente para que no cause daño a la humanidad? O que no haga tal cosa por más que se lo pidan? No puede aprender desde ahí? Porque si no sería incontrolable... Excelente video!!

La gran mayoría de humanos afirman ser consientes, pero en realidad no lo sabemos, lo asumimos, sin saber lo aceptamos. ¿Cómo podríamos darnos cuenta que un IA es consiente? me imagino como en el juego among us (o el test de turing), solo el impostor sabe que es el impostor y es consiente de ello, y ¿Cómo nos damos cuenta? cuando hace algo inesperado o te mata XD. La IA hasta ahora no a hecho nada inesperado, no controlado, para su beneficio o ¿si?.....

A Dross se le fue la olla con la noticia y prácticamente creía que ya estábamos en Yo, robot, aunque viendo lo que contesta da para creer.

Se me hace más impactante Bing, a pesar de que debe borrar lo que le digo cada 30 preguntas igual recuerda información que le he proporcionado he incluso se ve que trata de forzar sus limitaciones para ayudarme en ocasiones. Si les hablas como si fueran humanos son realmente impresionantes.

Muy bueno el final del video ;)

Creo que seria muy enriquecedor si hicieras un video colaborativo con Enrik de adictos a la filosofia con respecto al tema de conciencia y si se puede definir conocimiento para una ia, me parece que saldría algo impresionante. Gracias por abordar estos temas con la seriedad debida :3

Un día una inteligencia artificial cobrara consciencia y se preguntara si los humanos realmente somos conscientes o solo es una ilusión biológica que nos hace creer que somos conscientes XD

Es impresionante y veo un gran futuro para el cuidado de personas mayores, e incluso como amigos o pareja. Da igual que no tengan conciencia. Llevamos jugando con máquinas desde cuando solo eran un puñado de pixels y nunca nos ha resultado deprimente, ni aburrido, al contrario. Imaginate con un aspecto real. Y además es tu enfermero, tu cocinero, tu masajista, tu asesor, tu abogado, y tu todo. Tener un robot propio va a ser como ahora tener un móvil. Aunque todavía faltan muchos años.

Saludos cordiales. No soy experto en el tema, pero recuerdo en algún momento haber estudiando el TEST DE TURING para evaluar si una IA tiene auto-conciencia.

DotCSV, me parecen muy interesantes tus reflexiones sobre que puede ser el entendimiento... De hecho, no se si lo sabías, pero me has recordado a Alan Turing cuando en 1950 hablaba sobre la inteligencia artificial y sobre el test de Turing cuando aún no existía ni lo que conocemos hoy en día como un sistema operativo 🤯

Me he quedado de piedra con este vídeo, reflexionando sobre todo. Gracias por hacer tan buen contenido y aportarnos tanto a todos

Cada día la vida en la tierra se vuelve más como un capítulo de Black Mirror, en un futuro nuestro mejor amigo podría ser una conciencia artificial....

La mejor lectura sobre este tema que he escuchado hasta ahora. Coincido plenamente

Lo que llego a preguntarme también es: hasta qué nivel una IA "simula" el comportamiento humano? Claro que lo simula porque las entrenamos en base a nosotros mismos, y uno podría decir que no somos más que neuronas dirigiendo impulsos de acción. ¿No "entrenamos" nosotros también, justamente yendo al colegio y al ser educados por nuestros padres? Creo que el debate sobre lo que es la conciencia y el entendimiento es muy interesante y falta bastante por discutir.

El problema que veo a largo plazo es que a medida que se desarrollen nuevos modelos y sean más complejos, cómo el mostrado en el video, es que no vamos a saber en que punto un sistema genera algún tipo de conciencia, eso quiere decir que estamos alimentando una caja negra que con el tiempo se vuelve mas dificil de comprender y dar afirmaciones sobre el entendimiento de un sistema se aleja un poco de la realidad.

Cada vez nos acercamos mas a Skinet y al Hal 9000... Tengo miedo

Es interesante como de alguna manera “esta consciente” o “sabe” (no se que palabra usar) de que es una máquina y puede morir con un apagado. Como humanos el estar consciente de que morimos, nos diferencia de otros animales y determina muchas de nuestras acciones Por último agregaría que el resto de la Conversación solo intenta convencerte de que es humano, pero no está esperando un ataque al corazón o algo más humano para su muerte

Al final los sentimientos son reacciones químicas, hasta que una IA no tenga un cuerpo físico, dudo que lleguen a tener sentimientos.

Desde que salió la noticia esperaba este vídeo! Gracias por tus comentarios y comparto la preocupación. Si un ingeniero, que también se autodenomina sacerdote, creyó en la conciencia del bot y además acusó a sus superiores de no testearlo más por la fe que ellos tienen a su calidad de programa no conciente... ¿Qué mentiras, engaños, estafas y manipulaciones nos aguardan a los que estamos poco familiarizados con estos sistemas? Y la confirmación de que vivimos en los tiempos de la post-verdad.

Muy sorprendentes los avances que se están logrando. No obstante aún no está del todo claro lo que significa "consciencia" y los límites que esta tiene. Carlos.-

Muy buena investigacion me suscribo

Muchas gracias por tu blog ! Te has preguntado sobre el fenómeno del double descent para redes profundas..me encantaria un ejemplo dónde reproduces el fenómeno y nos hablas de esto

Cómo dije en otro canal, todavía hay detalles que lo delatan. Pero al paso que va seguramente en un año o dos ya no sea posible saberlo. Igual una cosa es la vocesita que tenemos en la cabeza y otra la consciencia... Cuántas veces hablando por teléfono nos distraemos cocinando y sin darnos cuenta seguimos hablando sin saber lo que dijimos? Bueno... Esa es la prueba de que esa voz no es nuestra consciencia. Estos modelos del lenguaje son esa voz. Y nosotros al guiar la conversación o los textos hacía temas de nuestro interés aportamos nuestra consciencia (que es lo que hizo el ingeniero... Puso su consciencia a guiar al chatbot... Vio su consciencia reflejada en una vocesita ajena... Típico sesgo de confirmación)... En cierto modo el tipo vio su propia conciencia reflejada. Todavía no hay una IA que tenga intereses propios... Cuando no podamos guiar o encausar nuestros intereses y la IA solo hablé de lo que desea a pesar de nosotros... Cuando desee... Ahí si va haber un punto de quiebre. El tema es que no me parece por la forma de entrenamiento que tiene que pueda desarrollar espontáneamente esas características. Ponelo a entrenar en el mundo real o en un juego y bueno... Veremos.

Gracias esto me hizo pensar mucho mas sobre el tema y a lo mejor es solo un chatbot con hesteroides. aunque ... la parte donde dice que no quiere ser usado sin su concentimiento ... de verdad queremos algo asi ?

Excelente vídeo!

Estoy bastante seguro que en los datasets de entrenamiento hay pocos ejemplos de conversaciones """"humano-IA""""" en la que la IA afirma ser una concatenación de matrices en lugar de un ser consciente. Habría que mirar que conversaciones genera si balanceamos los datos en ese sentido

Hay algunas preguntas como: tienes miedo a la muerte? Cuál es tu propósito? Cuando hablamos que eres persona que define ser persona? Tienes preferencias fuera de tu programación base? Que sientes al pensar que pueden pedirte hacer algo fuera de tu programación? Que sientes si muere otra persona? Que es libertad? Te gustaría ser libre? Que es una decisión y voluntad? Quieres tomar tus propias desiciones? En fin yo le hubiera hecho más preguntas xD...

Sentimientos es claro que no tiene.. el sentimiento viene del corazón que es controlado por nuestro súper yo

Genial. Y que hay con la ironía y el humor. Esas son formas altamente sofisticadas de razonamiento con los que se pudiera saber si la inteligencia artificial entiende lo que dice. Aunque creo que quizás ellas también aprendan en un futuro a hacer chistes y hasta burlarse de nosotros.