Comienza la era de las placas base inteligentes: Gigabyte lanza discretamente una placa base AI con protección contra sobretensiones y soporte para ?cuatro dual...
Gigabyte lanzará una nueva placa base para potenciar tus habilidades como ingeniero de inteligencia artificial.
Gigabyte ha presentado recientemente algo realmente increíble: el TRX50 AI TOP (billones de operaciones por segundo), una nueva placa base diseñada específicamente para entrenar y ajustar inteligencia artificial localmente. La empresa afirma haber diseñado el TRX50 para ayudar a utilizar al máximo la capacidad de tu CPU, GPU, memoria y SSD. Con el hardware adecuado, la empresa asegura que puede soportar hasta 236 mil millones de parámetros en modelos de lenguaje grandes (LLMs) de entrenamiento y ajuste de IA, todo en el dispositivo, lo que puede ser útil para la privacidad y seguridad. El TRX50 está diseñado para funcionar con los procesadores AMD Threadripper y Threadripper Pro, algunos de los componentes más avanzados en el mercado, como era de esperar.
La placa base E-ATX cuenta con cuatro ranuras PCIe x16, cuatro ranuras NVMe M.2, ocho ranuras DIMM, dos interfaces Ethernet de 10 Gbps, WiFi 7 a través de un módulo Qualcomm QCNCM865, y más. También cuenta con protección contra sobretensiones para garantizar que las cosas no se salgan de control.
Entrenar LLMs es notoriamente complicado y requiere muchos recursos, razón por la cual OpenAI y sus competidores startups están recaudando cientos de millones de dólares en este momento. En este sentido, Gigabyte proporciona una interfaz de usuario útil junto con flujos de trabajo nuevos y monitoreo de progreso en tiempo real.
El TRX50 es compatible con muchos de los principales modelos de código abierto disponibles, con un enfoque especial en modelos dirigidos a principiantes. El Tutor AI TOP también puede ofrecer consejos sobre cómo configurar, ajustar y jugar con un modelo directamente desde la caja.
Además, Gigabyte ofrece otras características amigables para bricolaje, como la Zona de Depuración EZ-Debug para ayudar con LED de depuración y botones de control, el diseño WIFI EZ-Plug para consolidar los enchufes de antena WiFi y más.
Al igual que la minería de Bitcoin de los últimos años, es difícil no ver la locura de la IA siguiendo un patrón similar de gran entusiasmo y emoción. Aunque las criptomonedas se tratan principalmente sobre el valor de las monedas en aumento, por lo que hay diferencias clave, las necesidades de hardware son bastante similares. Muchas de las GPUs de Nvidia y varias CPUs de diferentes fabricantes que se utilizaron en operaciones de minería de bitcoin ahora están siendo reutilizadas para IA, lo que ha coincidido con una reducción general en el interés e inversión en criptomonedas como sector.
Si bien Gigabyte es un gran nombre, el TRX50 es claramente un producto muy específico. En una escala más amplia, Apple ha estado construyendo sus computadoras portátiles de la serie M para manejar una gran cantidad de cargas de trabajo relacionadas con la inteligencia artificial, incluido el entrenamiento, y el chip M4 viene con una variedad de funciones de IA.
