Montando Un Servidor de IA – Parte IV

En este cuarto artículo dedicado a montar nuestro propio servidor de IA, vamos a hablar del almacenamiento. Tengo claro que debemos utilizar discos rápidos, tipo NVME. Además utilizaría -como mínimo- un disco tan solo para el sistema operativo y programas, y un segundo disco para almacenamiento de datos  (informes, auditorías, etc.) y modelos de IA, tales como Qwen, Llama, Mistral, Gemma, modelos de emmbeding y multimodales.

Para el primer disco no me volvería muy loco. En principio con un NVME de 1Tb debería ser suficiente. Si andáis sobrados, mejor uno de 2Tb, claro.

Para el segundo disco sí que me rascaría el bolsillo, pues es el que va a guardar lo que realmente importa, que son los datos. Es más, si os lo podéis permitir, compraría dos NVME iguales, para redundarlos.

Mi estructura ideal sería la siguiente:

SSD 1: 1Tb NVME en el que instalaría el sistema operativo (Windows o Linux) aplicaciones, Docker, WSL, etc.

SSD 2: 2–4 TB NVMe. En esta unidad irán montados los Modelos de IA: Qwen, Llama, Mistral, Gemma, embeddings, etc. Yo no redundaría este disco, pues los modelos de IA pueden volver a descargarse, desde sus respectivos repositorios.

SSD 3: 2–4 TB NVMe. En esta tercera unidad irían los documentos, periciales, BBDD vectorial/RAG y cualquier otro trabajo. En mi opinión, aquí es Muy recomendable montar dos discos idénticos, para poder hacer redundancia pues -de perderse los datos- perderíamos información que nosotros mismos hemos generado, no pudiendo recuperarla, sino es desde una copia redundante o un Backup actualizado.

Esto implicaría que tendríamos que montar hasta 4 discos NVME, por lo que el equipo debe tener incluidos 4 zócalos para este formato. Sin embargo, las placas base diseñadas para alojar tantos NVME suelen ser caras. Otra opción sería montar únicamente tres discos: el sistema operativo en un NVME  de 1-2 tb y los discos de datos redundantes montarlos sobre SSD de 4 TB. También podemos prescindir del tercer disco, así como la redundancia y montar todo en tan solo dos discos (muchas placas admiten hasta 2 NVME). Eso sí: de hacerlo de esta manera, tendríamos que garantizar la seguridad de los datos (un sistema de Backup eficiente) así como la capacidad de los discos de almacén (4Tb sería más que recomendable).

Y aquí es donde entra una opción muy interesante (además muy barata) que podría ayudarnos a resolver ambos problemas de almacenamiento y copia de seguridad, Esto es: montar un NAS de 2 discos (los magnetomecánicos de toda la vida) de 8 TB cada uno. Aquí copiaríamos los documentos, proyectos, etc. Pero no solo los de nuestro servidor de IA, sino también los datos que nos interesen de otros dispositivos, como imágenes, backups de los almacenes de correos electrónicos, etc. Este NAS llevaría una configuración del tipo RAID 1 / espejo. TRUENAS es una opción gratuita muy potente e intuitiva. Además de poder configurarlo en castellano, su entorno gráfico es muy agradable y fácil de manejar. Por otra parte, existen multitud de tutoriales en internet que os enseñarán a configurarlo de forma fácil. En verdad no veo necesario gastarse una cantidad de dinero elevada, para comprar una carcasa NAS, cuando podemos aprovechar cualquier equipo de los que tenemos ya desechados por casa. Daos cuenta de que un NAS solo necesita almacenamiento, no capacidad de proceso.

Finalmente compraría un tercer disco (también magnetomecánico) que haría las funciones de Backup externo. Este disco USB conectado al NAS, almacenaría una copia Offline de los datos almacenados en éste.

El disco USB no estaría permanentemente conectado.

Por ejemplo, una vez a la semana (o cada vez que consideréis):

  1. Conectarlo.
  2. Ejecutar backup.
  3. Verificarlo.
  4. Expulsarlo.
  5. Guardarlo físicamente separado.

Eso proporciona una defensa muy potente frente a ransomware.

Ya sabéis que existe la posibilidad de cifrar los datos de esta copia de seguridad externalizada (por si os los roban, etc.) Si elegís Windows podéis utilizar BITLOCKER; en el caso de Linux podéis utilizar LUKS. Mi opinión personal es «que si no sabéis, no los cifréis». Alguno se me tirará al cuello, seguro, pero no os podéis imaginar la cantidad de datos que se han perdido, no por ataques o daños, sino porque quien los cifró no tuvo la precaución de almacenar las claves de descifrado. Por otra parte, si también sois informáticos dedicados a la ciberseguridad, lo de guardar las claves es algo que deberíais tener bien aprendido y guardado.

Como veis NO he puesto marca ninguna para ningún componente, pues este blog no está pensado para monetizarse, sino para contaros cosas que se me ocurren. Si alguien quiere marcas concretas, que me escriba por privado y le cuento lo que considero que es mejor, para cada componente y presupuesto.

0
Montando Un Servidor de IA – Parte III

No hay comentarios

Aún no hay comentarios

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *