Valen la pena la NPU Actualmente 2024?

  Рет қаралды 5,597

Zombi Digital

Zombi Digital

Күн бұрын

00:00 INTRO
00:18 Las NPUs
01:49 Comparativa entre NPUs, CPUs y GPUs
03:00 NPUs: son OBSOLETAS
05:28 Servirán para Juegos Next-Gen ?
06:15 No son el futuro.
07:01 Copilot
07:32 X-Silicon C-GPU
09:06 Microsoft se prepara para el cambio

Пікірлер: 48
@DeliDev
@DeliDev Ай бұрын
difiero un poco ya que actualmente trabajo con sisitemas edge ai, los equipos nvidia son caros y escasos hechando a tras a los clientes con los tiempos de espera o con los costos, para sistemas de vision ai, actuamente estamos adaptando un sistema para unas boards llamadas orange pi, tienen una npu, y funciona bien, es otra opcion mas economica y rapida de conseguir, tienes razon sobre la evolucion, pero para sistemas un poco menos demandantes como los industriales estan muy bien
@arz-ai
@arz-ai Ай бұрын
El "top" se suele usar para operaciones con tesnsores y tflop para operaciones de punto flotante, si mencionan 45 top depende del precio y consumo de top/w, una rtx 3060 puede llegar a mas de 100 tops con un consumo de 170w, una 4090 hasta los 1000 top con un consumo de 450w, una L4 hasta los 200 a 400 top por 72w, estas últimas su costo es muy elevado, no creo que sea una mala opción al final estos equipos no están pensados para uso profesional, mas bien es para el público en general que simplemente compra la computadora y poder correr modelos como phi3 o sd 1.5 si es que sale para esa plataforma sin tener que instalar, configurar o prearar algo solo plug & play, si buscan estudiar este mundillo de la IA en poco tiempo se encontrarán que necesitan uns GPU y con los modelos actuales las 4090 ya son obsoletas para trabajar con modelos de última generación donde se suelen usar cluster de GPU de decenas o cientos donde cada una cuesta casi lo mismo que un auto.
@albertopazgeuse8133
@albertopazgeuse8133 Ай бұрын
tienes razon pero hasta ahi nomas. creo que nate (el youtuber) ya explico que conviene para esos casos de trabajar con ia, comprar gpus para servidor, salen mucho mas baratas, traen mas vram, pero no tienen salida de video. por 80 dolares puedes comprar gpu de servidor de generaciones anteriores con 24vram, recuerdo que habia un modelo que salia 120 dolares que 2 de estas gpu son iguales a una rtx 3080 o rtx 3090 si no recuerdo mal. es una opcion economica en terminos de hardware, pero creo que sus consumos energeticos son elevados pese a que los modelos estos no traen disipador con fan, solo disipacion pasiva
@arz-ai
@arz-ai Ай бұрын
@@albertopazgeuse8133 yo trabajo en este mundillo, las versiones "económicas" no son las mejroes opciones, muchas tiene problemas de compatibilidad con nuevos modelos, una p40 de 24gb de aprox 300USD suele ser de 40 tops con un consumo de 250, he comprado esas GPU y ni para entrenar me sirven, el costo energético en un mes me llega de hasta 300 USD, dos 3060 de 12gb son mas rápidas, consumen casi lo mismo y tienes la misma vram en conjunto. Al final depende de que se busca, la mayoría de los que conozco no trabajan con LLM o modelos tan grandes y una 3060 les basta y sobra e incluso yo no hago finetuning de llm en servidores dedicados, se suele hacer en un cluster de terceros.
@akhathos1618
@akhathos1618 Ай бұрын
Me encantó el vídeo, muchas gracias y a seguir creciendo.
@juliangutierrez8446
@juliangutierrez8446 Ай бұрын
De acuerdo contigo, te cuento mi experiencia, pasé de una 5600XT a una 6700XT, soy de juegos AAA y no competitivos por lo tanto me iba a comprar una 4070 Super ya que me encantó Alan Wake 2, lo podía jugar a 70FPS más o menos en 1080 con mi GPU actual y 120FPS con el AMD Frame Generation, ya que quería sí o sí la experiencia con RT overdrive, considere la 4070 super bien me va a dar los mismos 70FPS, pero con overdrive y unos 100FPS con FrameGeneration de Nvidia, me había decidido a comprarla. Los últimos días de Junio que me llega un bono del trabajo, pero la verdad es que viendo como 20 comparaciones con la 7900GRE ya de me decidí por esta última, en rasterizado la 4070 super me da casi lo mismo que mi tarjeta actual la 6700XT y tendría lo mismos 12GB de Vram, voy a dejar la afición por el Ray-tracing y a pensar en que la 7900GRE supera a la 4070 Super casi un 30% en rasterizado y viene con 4GB más de VRAM que a futuro no se si en algún momento vuelvan a enloquecer los precios de las GPU me conviene más. Di esta larga introducción porque me pasó lo mismo con las NPU ya estaba mirando una alternativa, pero como dijiste, el Ray-Tracing tomó dos generaciones para ser usable, mejor dejar la gana por tener lo más nuevo, dejar que madure y ver que marca nos ofrece lo mejor.
@juliangutierrez8446
@juliangutierrez8446 Ай бұрын
Y pues sí, la verdad es que ya de por sí con la sola duración de la batería y el rendimiento, hay motivo para que los Snapdragon X se vendan, no había necesidad de dejarnos a los dueños de GPU independientes sin soporte, eso tendrán que arreglarlo dentro de poco.
@Guitarclassicalsdn
@Guitarclassicalsdn Ай бұрын
Completamente de acuerdo con su comentario. Nos dejamos influenciar por las nuevas características que ofrecen y queremos tenerlas en nuestros sistmeas, solo son pruebas de conceptos, que por un lado pagamos más y somos los betatesters. Lo de RTX está desde la Serie 20 y aún con la Serie 40 no es que funcione como uno espera. Con qué artimaña de marketing sale NVIDIA con la Serie 50 para desearlas.
@imsd1982
@imsd1982 Ай бұрын
el trazado de rayos para mi era puro marketing lo que le permite a Nvidia triplicar sus precios por 10-20% mas de rendimiento con su generacion anterior lo cual para mi bolsillo es un despropósito.
@YdelPixelJuegos
@YdelPixelJuegos Ай бұрын
¿Hola, puedes hacer un vídeo de por qué la imagen de una buena webcam se entrecorta sobre la imagen de un juego? Ya miré todo lo que dice la gente sobre optimizar y no logro dar con el fallo, gracias.
@jovani3218
@jovani3218 Ай бұрын
En lo personal con el nuevo intento de apuesta de Microsoft si Windows ARM se sigue basando en NT seguiremos como estamos ahora ya que por más IA que tenga no sirve si no hay muchas aplicaciones de 3ros para instalar, se dice que la solución será la emulación pero está no es la solución ya que no es mala idea pero para solucionar un problema así de grave mejor hay que optar por traer lo más pronto posible un port de dichas aplicaciones en el momento de su lanzamiento, lo mejor que puede hacer Microsoft es un borron y cuenta nueva, volviendo al tema central simplemente las NPUs por ahora considerenlo un lujo nada más y esperen a que bajen de precio
@Helios.vfx.
@Helios.vfx. Ай бұрын
Muy buen analisis. Gracias por el video
@juanarias950
@juanarias950 29 күн бұрын
el npu se tendría que usar para optimizar la cpu parte del sistema como también memoria y optimizar programas,mejorar la eficiencia energetica patrones de eliminación de archivos se que suena futurista pero creo que para eso si serviría la npu para desarrollar un tipo de ia que optimice el sistema operativo y sea de verdedaro uso para el usuario.
@goukurako
@goukurako Ай бұрын
como consumidor no conviene subirse al carro de las NPU... al menos en los próximos 3-5 años, es más como (solo)consumidor no es bueno subirse a cualquier tecnología como 'early adopter' ...si eres creador de contenidos(en cualquiera de sus rubros) la cosa es diferente, tocaría anallizar si la inversión vale la pena, obviamente un creador de contenidos debe apuntar a la gama alta,premium y/o entusiasta para ver realmente cambios...
@lomokino
@lomokino Ай бұрын
Buen video.
@sephirotunknown4375
@sephirotunknown4375 Ай бұрын
pero es que tu estas hablando desde la optica de un gestor in situ muy especifico, en este caso chatGTP, que si que necesita un minimo para trabajar de manera remota (sin ayuda de estar conectado a la nube) pero los NPU que tiene AMD en su serie 8000 de Ryzen y posteriores aunque son limitados para lo que propones, son excelentes como gestor de recursos, tan solo las pruebas que se hicieron al salir los APU 8000G, que dicho sea de paso fueron completamente no intencionadas, demostraron que la NPU aprende de recursos disponibles y preferencias de usuario para dar una experiencia de juego optima, eso se lograba con el cambio de frecuencias activo para establecer una armonia entre CPU, GPU y RAM, se puede ver en varias pruebas como todo el sistema parece muy oscilante en ese aspecto pero daba mejor tasa de refresco, menos lag, menos rotura visual y mejor respuesta con perifericos, que es lo que ya hace adrenaline pero uno tiene que calibrarlo manualmente para quedar a gusto y en este caso al activar los NPU simplemente lo hacia. Tambien nos estamos enfocando solo en asistentes software-persona, pero no sabemos si windows 12 va a estar potenciando IA de ese tipo o algo mas basico como lo que hizo AMD, creo que esos NPU que ahorita estan en el mercado estan siendo desperdiciados, ademas se necesita que haya usuarios que cuenten con esa tecnologia, muchos o pocos pero que haya, para correr pruebas y checar errores o mejoras y adherirlo a una actualizacion. quien dice que no haya optimizacion par achatGTP y en el futuro solo necesite 20 tops para tareas basicas?
@MrFeleru
@MrFeleru Ай бұрын
Es decir no recomiendas invertir en los Nuevos Arrow Lake de I tell que seguro lanzan.en Octubre de este año por los flops siendo una tecnología apenas entrando? Yo estaba esperando a esta fecha para actualizar mi equipo.
@jovani3218
@jovani3218 Ай бұрын
Si tienes un equipo muy antiguo o que tú trabajo necesites ese procesador adelante ya que arrow lake solucione los desastres con los topes de gama de la 13ra y 14ta generación
@luffytaro521
@luffytaro521 5 күн бұрын
Puedo estar equivocado, pero los NPU dedicados dentro de un procesador no es lo mismo que los tensor cores de una GPU. Que las medidas en los NPU son mas generales y en los tensor cores son medidas mas específicas, osea un NPU puede ser tensor cores pero un tensor no puede ser un NPU. Por ende si conviene comprar NPU dedicados y tbm graficos dedicados al no ser lo mismo. Si estoy equivocado diganmelo y aclarenlo, gracias.
@alejandrojason
@alejandrojason Ай бұрын
Buen dia crack !! Me aclaraste la decisión de que micro comprar. Voy por un micro que consuma poco y se caliente poco y en el futuro veremos. Gracias por el video !!
@arkiostu
@arkiostu 2 күн бұрын
Una cosa que aprendí cuando salió la serie rtx 2000 es que en el momento que se estandarice y se aproveche medianamente solo se podra en los nuevos modelos, y dejando los modelos que vendieron toda la revolución afuera Por ejemplo una 4060 le hace bastante compentencia a la 2080 la cual en su dia costo poquito mas de 1000 dolares y la otra se puede encontrar por 300-400 dolares consumiendo menos y aprovechando el dlss 3.0 y los rt cores de tercera generación en conclusión mejor no comprar de lanzamiento y esperar asta que sea adoptada asi pagas menos obtienes mas y consuniendo menos
@sergioacuna1772
@sergioacuna1772 Ай бұрын
Eso si, los modelos de IA, siempre son más pesados, y a menos que el crecimiento de la cantidad de VRAM aumente explosivamente, las npu, serán de buena utilidad, siempre y cuando el equipo soporte una buena cantidad de ram(+ de 128GB), cosa que no creo de la media de los equipos actualmente, y que necesitan crecer de forma explosiva.
@ximoromero2214
@ximoromero2214 29 күн бұрын
Buenas me dedico el 90% en trabajos de producción, Microsoft project , ia para informes, videoconferencias y seguimiento de reuniones y trabajos y un 10% para jugar al lol ¿Qué portátil me recomiendan? Todo los días lo trasladaré de casa a trabajo Gracias
@sergioacuna1772
@sergioacuna1772 Ай бұрын
Si la experiencia es buena, mejor esperar, nunca se sabe por donde la letra chica pueda atacar.
@carlos9755
@carlos9755 Ай бұрын
Lenovo y Microsoft ya han presentado sus portátiles con snap Dragon élite. Podrías hablar de ellos por favor? A mí me interesan especialmente para edición de vídeo.
@jovani3218
@jovani3218 Ай бұрын
Mejor cómprate una MacBook ya que tienen su software muy bien trabajado aparte que llevan mucha ventaja frente a la propuesta de Microsoft que ya de entrada está mal ejecutada de parte del software
@RSV9
@RSV9 Ай бұрын
Interesante. Gracias por la mirada a los nuevos productos de Intel/Snapdragon. Yo hasta ahora estaba algo inseguro de apostar por los Ultra o más bien por Snadragon, pero al final creo que tienes razón, todo es todavía muy nuevo. Será mejor esperar antes de comprar. Lo único que estoy necesitando últimamente, que quiero hacer más con imágenes creadas por IA, es una tarjeta gráfica más potente.
@albertopazgeuse8133
@albertopazgeuse8133 Ай бұрын
compra una tarjeta de servidor usada en aliexpress, hay varias por 80 dolares para arriba, que van muy bien para eso
@sergioacuna1772
@sergioacuna1772 Ай бұрын
De acuerdo, antes eran instrucciones para la misma cpu, y ahora se agregan nuevas unidades de procesamiento que optimizan solo algunas cosas, y, si ¿el usuario no las usa?, que pasa con la caché que está aparte de la npu, o ¿la caché l3 la comparte entre npu y cpu? no se, pero esa memoria es carísima.
@richardpunk
@richardpunk Ай бұрын
Imagino q se usará compilando tu información para entregarla la digerida a MS... Xq una cosa es dar la información y otra es mandarla con lo realmente importante.
@richardpunk
@richardpunk Ай бұрын
Nota: min 5:55 "" para que pasear los datos, desde el SSD, al CPU para después llevarlo al GPU...""".... Direct STORAGE, are you there??? oh es mi imaginación malévola q interpretro mal, sus palabras.
@Pomelo_MCV
@Pomelo_MCV Ай бұрын
excelente video Javier !! - no conocia nada de lo que decis en este video - es cierto, que no es necesario, en un video Nate Gentile, puso una IA en un PC, sin necesidad de estar conectado permanentemente a internet y el procesador utilizado no tenia NPU
@iuliansc8446
@iuliansc8446 Ай бұрын
las NPU solo son un espia, la escusa con la IA para que aceptes comprarte chips con NPU, preguntate porque no son open source
@mrbeagle1512
@mrbeagle1512 Ай бұрын
​@@iuliansc8446 No necesariamente simplemente no son Open source por el dinero ejemplo Qualcomm tuvo que comprar una empresa de ex-apple que es Nubia protegen su IP y patentes
@mrbeagle1512
@mrbeagle1512 Ай бұрын
Entiendo que es una "evolución" para ordenadores portátiles que viene más a competir con Apple y es para ofimática literal es más sencillo vender un procesador con NPU que una RTX al común de los mortales que no juega aparte del espacio y consumo energético.
@juatiti
@juatiti Ай бұрын
En el vídeo de Nate Gentile explica que uso llama2 la IA de Meta dado que está si podía correr localmente en ese PC
@luispablosobradoelizondo5178
@luispablosobradoelizondo5178 Ай бұрын
El primer smartphone con NPU fue el Huawei Mate 10 y no un Apple.
@jovani3218
@jovani3218 Ай бұрын
Solo que cuentes el algoritmo de las cámaras ya que es lo que tiene IA hace varios años
@JavierHernandezLinares
@JavierHernandezLinares Ай бұрын
Y los procesadores analógicos? No veo mucho desarrollo en ese tema
@richardpunk
@richardpunk Ай бұрын
Sr. Zero. No sé si se percató después q edito este video... Pero usted acaba de decir dos cosas. La primera es AMD apesta. Y la más importante dijo COMPREN NVIDIA q es la única q con sus gráficas nos está dando los TOPS q se necesitan... (Felicidades x entregarse al lado oscuro)
@valen98421
@valen98421 Ай бұрын
Que clase de mini pollo es este.
@User_-kv2tr
@User_-kv2tr Ай бұрын
Y la mentira?
@jovani3218
@jovani3218 Ай бұрын
Simón
@nicolaslanguidey3292
@nicolaslanguidey3292 Ай бұрын
Sabia q era posible usar los mismo nucleos para toso
@Victor_Js
@Victor_Js Ай бұрын
Yo lo que veo es que nvidia tira a sistemas propietarios en su IA y su CUDA, AMD tiende a ser más abierto (no le queda más remedio) pero si software en todos estos temas está muy atrás, finalmente llega Microsoft y se tira a NPU. El resultado: una pocilga. Es mejor esperar y tirar con lo que tenemos. Comprendo el planteamiento de cada una, el de Microsoft porque no quieren depender de tarjetas gráficas en portátiles de trabajo. nvdidia por el dólar y AMD, bueno hace lo que puede. En fin, un desastre absoluto. Mejor esperar en la compra de dispositivos, coincido plenamente con el autor del vídeo.
@sergioacuna1772
@sergioacuna1772 Ай бұрын
Qualcomm rompe cpu x86
No compres un Snapdragon x Elite ¿Vale la pena?
11:35
Zombi Digital
Рет қаралды 4,6 М.
Descubre las Top 3 Herramientas de IA para Profesores
8:03
The Power IA
Рет қаралды 374
Каха и суп
00:39
К-Media
Рет қаралды 5 МЛН
New model rc bird unboxing and testing
00:10
Ruhul Shorts
Рет қаралды 21 МЛН
What it feels like cleaning up after a toddler.
00:40
Daniel LaBelle
Рет қаралды 25 МЛН
¡LA SOLUCION TOTAL DE  LOS PROBLEMAS EN DRIVERS AMD!
4:17
Todo lo que debes SABER sobre los SISTEMAS DE ARCHIVOS
18:41
Tutos PC
Рет қаралды 79 М.
How NVIDIA just defeated every other tech company
9:20
Mrwhosetheboss
Рет қаралды 262 М.
Solo los TONTOS compran estos VEHÍCULOS
8:49
TRANSPARENCIA VEHICULAR
Рет қаралды 56 М.
Un FRACASO y un FRAUDE || AI pin y el Rabbit R1
8:06
Mark Tech
Рет қаралды 4,7 М.
CPU vs GPU ¿Cúal es la diferencia? + Prueba de rendimiento
12:12
Hardware 360º
Рет қаралды 223 М.
Здесь упор в процессор
18:02
Рома, Просто Рома
Рет қаралды 363 М.
¡Te vas a tener que comprar un PC Nuevo para IA 😭! NPU, GPU, CPU... WTF!? 🤯
14:45
чёт жутковато стало☠️
0:20
𝓢𝓾𝓰𝓪𝓻ℂ𝔸𝕏𝔸ℙ𝕆𝕂_Sasha
Рет қаралды 1,9 МЛН
Sigma Kid Hair #funny #sigma #comedy
0:33
CRAZY GREAPA
Рет қаралды 28 МЛН
Ай ай 🤣
0:27
Dragon Нургелды 🐉
Рет қаралды 2 МЛН