this post was submitted on 29 Jan 2024
7 points (100.0% liked)
Watones Informáticos - Tecnología
166 readers
1 users here now
Noticias y discusión de tecnología en general. Aproveche compartir asuntos tecnológicos, dudas y consultas también.
Si va a compartir una noticia o artículo, conserve su titular por favor.
Si viene de afuera, le explico:
-
watones: gordos, obesos
-
informáticos: informáticos
¿Qué tiene que ver con tecnología? Le tendría que explicar el chiste, yo creo que se entiende.
founded 1 year ago
MODERATORS
you are viewing a single comment's thread
view the rest of the comments
view the rest of the comments
Ojalá Nvidia fuera un poco más así.
Hablando del post, entendí como la mitad jajaja
Y eso que me siento semi-familiarizado con programar GPUs, porque en su momento me tocó desarrollar en OpenCL.
Con respecto del hype de instrucciones "tensoriales" (no sé por qué se llaman así, según yo son matrices de toda la vida), espero que también se mueva más la aguja a correr LLMs localmente, y no depender del proveedor gigante que literalmente roba data de internet sin entregar nada a cambio. Y no me refiero a que la gente corra LLaMA en su casa, si no que las empresas que se suban al hype, corran las cosas en su infra y lo adapten al uso que le quieran dar. En vez de entregarle información confidencial a OpenAI.
Sería bacán, Nvidia siempre funciona con mucho software propietario entremedio y me carga eso porque nunca me funciona decente. AMD en este caso se ponen más con el software abierto, lo que en teoría debería hacer funcionar sus productos con mayor facilidad para el resto.
Ahora sobre el artículo en si, no soy experto para nada en ISAs, pero me interesa leer la especulación porque me gusta intentar entender qué cambios ocurren o por qué toman decisiones para cambiar sus diseños. La creación de nuevas instrucciones para ordenar y mantener ocupado el GPU son cosas que me llaman la atención.
La dependencia en OpenAI pareciera un retroceso para las empresas. Como se ha vuelto costumbre tomar confiar datos/información de las personas en empresas, pareciera que organizacionalmente está llevando a las empresas a confiar sus datos en otros. Ni idea qué tan confiable sea algo así, o cuánto se ha analizado el impacto, ventajas y desventajas de aquellas cosas. Estoy de acuerdo contigo en todo caso, prefiero implementaciones más descentralizadas.