![\"\"](\"https:\/\/www.quebakan.com\/v15\/wp-content\/uploads\/2024\/12\/IA.jpg\")
<\/p>\n<\/p>\n
Las nuevas tecnolog\u00edas anticipan el advenimiento de nuevos equipos y con ello aparece el workstation dedicado a alojar modelos de IA en forma local, donde puedan montarse el propio ChatGPT personal, y alimentarlo con informaci\u00f3n, datos, documentos para poder sacarle mucho m\u00e1s provecho a la interacci\u00f3n diaria. Aqu\u00ed una gu\u00eda de c\u00f3mo subirse a las tendencias con un equipo productivo. <\/strong><\/span><\/p>\n Por Jos\u00e9 Luis Fern\u00e1ndez, Gerente de Tecnolog\u00eda de Kingston para Latam<\/span><\/p>\n Y s\u00ed, es el tema del momento. Todo parece girar en torno a la inteligencia artificial. Ya jugaste un poco con ChatGPT: hiciste preguntas divertidas, tradujiste un documento e incluso creaste algunas im\u00e1genes. \u00bfY ahora qu\u00e9? El desaf\u00edo que se plantea a la hora de empezar a usar la IA en serio, m\u00e1s all\u00e1 de estudiar y aprender a usarla adecuadamente, es doble.<\/span><\/p>\n Primero est\u00e1 el tema de la privacidad, si quiero sacarle realmente provecho en lo personal o a nivel de negocios, la confidencialidad de mis datos es absolutamente cr\u00edtica y trabajar con toda esa informaci\u00f3n en servicios basados en la nube da un poquito de miedo, sobre todo porque es m\u00e1s o menos vox populi que todas las IA se han entrenado con informaci\u00f3n de much\u00edsimas fuentes a las cuales en general no se pidi\u00f3 permiso.<\/span><\/p>\n Segundo est\u00e1 el tema de costos, cuando uno empieza a usar IA dentro de un proceso productivo \u201cen serio\u201d y empieza a consumir tiempo de c\u00f3mputo, hay que pagarlo. Todas esas enormes granjas de servidores con tarjetas GPU de USD 40000 d\u00f3lares de las que alardean los gigantes de la industria hay que amortizarlas. Y en muchos casos, los montos se pueden empezar a acumular hasta dejar de ser triviales.<\/span><\/p>\n De aqu\u00ed entonces nace la idea de poder correr IA de forma local en la privacidad del hogar o empresa. Una de las tendencias que varios expertos est\u00e1n anticipando es el advenimiento de un nuevo tipo de equipo, un workstation dedicado alojar modelos de IA open source en forma local, donde poder montar un tipo de chatGPT propio, privado y personalizado, y alimentarlo con tu informaci\u00f3n, tus datos, tus documentos para poder sacarle mucho m\u00e1s provecho a la interacci\u00f3n diaria. Tendr\u00e1 a disposici\u00f3n todo el historial de trabajo y mucho m\u00e1s contexto para poder entregar resultados basados en sus conocimientos y la forma de trabajar.<\/span><\/p>\n En este momento, los mayores consumidores de este tipo de equipos son del \u00e1mbito acad\u00e9mico, las universidades est\u00e1n equip\u00e1ndose r\u00e1pidamente con este tipo de workstation para hacer investigaci\u00f3n y desarrollo y para que los estudiantes aprendan a sacarle el jugo a esta nueva tecnolog\u00eda. Tambi\u00e9n hay muchas empresas que est\u00e1n avanzando por esta v\u00eda en muchas disciplinas, como medicina, ventas, administraci\u00f3n de negocios, marketing y m\u00e1s.<\/span><\/p>\n \u00bfQu\u00e9 caracter\u00edsticas tienen estos equipos? <\/em><\/strong>En general se trata de equipos bastante pesados con procesadores de al menos 16 n\u00facleos como Intel Xeon o AMD Threadripper PRO, una cantidad de memoria que oscila entre los 128 y 256 GB de memoria como las Kingston FURY Renegade PRO, que est\u00e1n dise\u00f1adas espec\u00edficamente para este uso y entregan la mayor performance posible en estas plataformas. La cantidad de memoria se dimensiona en funci\u00f3n de cu\u00e1ntos usuarios van a estar compartiendo y trabajando sobre modelos de IA. Obviamente el punto neur\u00e1lgico de esta configuraci\u00f3n es el GPU (Unidades de Procesamiento Gr\u00e1fico), donde lo m\u00e1s importante es cu\u00e1nta memoria de v\u00eddeo tiene siendo las m\u00e1s buscadas las que poseen 24 GB o m\u00e1s. Esto es lo que permite cargar el modelo de IA completo en memoria y procesar de manera fluida y sin demoras. Otro punto para destacar es no solamente poseer almacenamiento de la capacidad adecuada, sino que tambi\u00e9n sea de alta velocidad de respuesta ya que est\u00e1s trabajando con archivos realmente pesados y uno no quiere quedarse esperando a que carguen, por eso se recomiendan unidades NVMe de \u00faltima generaci\u00f3n.<\/span><\/p>\n Y si, son equipos cuyo costo puede superar f\u00e1cilmente los USD 10000 d\u00f3lares, pero el potencial de que sean usados por muchos usuarios ayuda a justificar la inversi\u00f3n. \u00bfY una versi\u00f3n de menor presupuesto? Seguro, para dar los primeros pasos se puede comenzar con un equipo ensamblado con un procesador \u201cgamer\u201d de 8 n\u00facleos, 32GB o 64GB de memoria, un SSD r\u00e1pido y s\u00ed, la parte que no es muy negociable es la tarjeta gr\u00e1fica con mucha memoria, se suelen usar modelos gamer de AMD o NVIDIA con al menos 16 o 24GB de VRAM. Con una configuraci\u00f3n como esa, se pueden hacer cosas muy interesantes a nivel productivo.<\/span><\/p>\n Pero\u2026 y \u00bfqu\u00e9 pasa con todos los nuevos laptops que se anuncian como \u201cIA PC\u201d? <\/em><\/strong><\/span><\/p>\n En verdad todo este desarrollo tecnol\u00f3gico est\u00e1 ocurriendo con una velocidad inusitada, y los modelos que actualmente se encuentran en el mercado que incorporan n\u00facleos dedicados quiz\u00e1s a\u00fan no tienen la potencia necesaria para correr modelos completos, sino m\u00e1s bien apoyar el uso basado en la nube. Ya los modelos nuevos que debutan el pr\u00f3ximo a\u00f1o incorporan mucha m\u00e1s potencia de procesamiento y esto se podr\u00eda lograr en un laptop, solo hay que ver si la cantidad de memoria ser\u00e1 suficiente. A futuro es totalmente probable que puedas tener un agente local de alto rendimiento corriendo en tu laptop Y acompa\u00f1\u00e1ndote adonde vayas. Pero eso es tema para la pr\u00f3xima.<\/span><\/p>\n Las nuevas tecnolog\u00edas anticipan el advenimiento de nuevos equipos y con ello aparece el workstation dedicado a alojar modelos de IA en forma local, donde puedan montarse el propio ChatGPT personal, y alimentarlo con informaci\u00f3n, datos, documentos para poder sacarle mucho m\u00e1s provecho a la interacci\u00f3n diaria. Aqu\u00ed una gu\u00eda de c\u00f3mo subirse a las […]<\/p>\n","protected":false},"author":4,"featured_media":127054,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_bbp_topic_count":0,"_bbp_reply_count":0,"_bbp_total_topic_count":0,"_bbp_total_reply_count":0,"_bbp_voice_count":0,"_bbp_anonymous_reply_count":0,"_bbp_topic_count_hidden":0,"_bbp_reply_count_hidden":0,"_bbp_forum_subforum_count":0,"buzzeditor_post_format":"","footnotes":""},"categories":[2],"tags":[],"class_list":["post-127053","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"yoast_head":"\n![\"\"](\"https:\/\/www.quebakan.com\/v15\/wp-content\/uploads\/2024\/12\/Jose-Luis-Fernandez.jpg\")
<\/p>\n","protected":false},"excerpt":{"rendered":"