Autoalojar un modelo de IA: las cuentas que todavía piden un número de teléfono

Ejecutar un modelo de lenguaje en hardware que alquilas, con pesos que descargaste tú mismo, es la parte de todo esto que se ha vuelto fácil sin que nadie lo note. Un comando descarga el modelo, otro inicia el servidor, y todo se factura por segundo. Lo que no es fácil es todo lo que lo rodea: el hub que controla el acceso a la descarga, la plataforma en la que se supone que el modelo debe responder, el registro que aloja tu contenedor, el panel que te dice si la GPU sigue viva. Varios de ellos se detendrán para pedirte un número de teléfono, y lo harán en el momento menos oportuno.

Esta guía trata sobre ese vacío. Cuánto cuesta realmente mantener en marcha una configuración autoalojada, cuáles de las cuentas que la rodean exigen de verdad un número y cuáles solo lo aparentan, y en qué casos un código de un solo uso es la herramienta adecuada, y en cuáles no lo es.

Qué implica realmente el autoalojamiento #

Un modelo autoalojado tiene cuatro piezas en movimiento, y solo una de ellas es el modelo.

• Computación: una GPU con memoria suficiente para alojar los pesos, alquilada por hora o por segundo. Es la única parte que se factura de forma continua.
• Pesos: se descargan una vez desde un hub de modelos. La mayoría de los modelos de pesos abiertos están a un solo inicio de sesión de distancia; unos pocos quedan detrás de una solicitud de acceso.
• Una superficie: aquello con lo que la gente realmente habla — un bot de Telegram, un bot de Discord, un endpoint web, una API interna.
• Fontanería: un registro de contenedores, un lugar donde guardar secretos, y algo que vigile la máquina.

Las solicitudes de número de teléfono nunca vienen del modelo. Vienen de la superficie y de la fontanería, que son cuentas corrientes de consumidor y de desarrollador con las reglas antiabuso habituales.

La computación se alquila, y es la parte barata #

Ser propietario de la tarjeta dejó de tener sentido para la mayoría de la gente hace tiempo. El hardware capaz de alojar un modelo de 70B sin cuantizar cuesta más que un coche de segunda mano y pasa la mayor parte de la semana inactivo; la misma tarjeta alquilada por segundo cuesta menos que una comida para llevar por una noche de trabajo. La facturación por segundo es el detalle que importa: un trabajo que tarda cuatro minutos debería costar cuatro minutos, no una hora redondeada al alza.

Esas son las tarifas bajo demanda publicadas en PowerGPU, que enumera 79 modelos de NVIDIA y fija cada precio en función de la mediana del mercado público en lugar de organizar una subasta, de modo que la cifra que aparece en la página es la cifra que pagas. La facturación es por segundo, el pago se realiza en criptomonedas y no existe ninguna verificación de identidad entre tú y la primera instancia. Para un proyecto que mantienes deliberadamente al margen de tu propio nombre, ese último punto es, por sí solo, la razón para buscar ahí y no en un gran proveedor de la nube.

Qué cuentas piden un número, y cuándo #

Las solicitudes no se reparten de forma uniforme. Algunas plataformas dan prioridad al teléfono y no abren una cuenta en absoluto sin uno; otras solo lo piden cuando algo en la sesión parece poco habitual. Averiguar en qué caso te encuentras ahorra dinero y evita desperdiciar un número.

Vale la pena distinguir dos patrones, porque requieren productos distintos. Un número que se pide una vez, al registrarte, es una puerta de entrada: la superas y no vuelve a aparecer. Un número que se pide más tarde, en un inicio de sesión que la plataforma no reconoció, es un desafío: puede volver a aparecer, y lo hará sobre el mismo número. Elegir como si un desafío fuera una puerta de entrada es el error más común y más costoso de todo este proceso.

Código de un solo uso, o un número que conservas #

Si la cuenta solo va a preguntar una vez, un código de un solo uso es exactamente lo que necesitas: tomas un número para el servicio en el que estás, llega el código, el número se devuelve. Si la cuenta es algo en lo que vas a volver a iniciar sesión desde equipos nuevos —un bot que sigue funcionando dentro de seis meses—, el número tiene que seguir existiendo cuando llegue el desafío. Para eso sirve un número de alquiler, y ahí está la diferencia entre una cuenta que conservas y una que pierdes sin darte cuenta.

El orden que funciona #

1. 1 Decide primero la superficie Que el modelo responda en Telegram, en Discord o en un endpoint desnudo determina qué cuentas necesitas, si es que necesitas alguna. Un simple endpoint HTTP en una máquina alquilada no necesita ninguna cuenta de consumidor: si eso encaja con tu proyecto, acabas de eliminar todas las solicitudes de número de esta página.
2. 2 Crea las cuentas antes de alquilar la GPU Las cuentas son la parte que puede hacerte perder una hora. La GPU se factura desde el segundo en que arranca. Pierde ese tiempo mientras no haya nada en marcha.
3. 3 Pide el número con la solicitud ya en pantalla Llega hasta el campo que lo pide, déjalo abierto, y solo entonces pide el código. Un código se cobra cuando llega, y llega tanto si estás listo como si no. La página de números de Telegram y la página de números de Discord muestran los países que actualmente ofrecen cada servicio.
4. 4 Vincula un segundo factor de inmediato En cuanto la cuenta exista, añade una aplicación de autenticación y guarda los códigos de recuperación. Eso es lo que evita que la plataforma vuelva a necesitar tu número alguna vez: noventa segundos de trabajo que eliminan toda una categoría de problemas futuros.
5. 5 Después, inicia la instancia Con las cuentas resueltas, alquila la GPU, descarga los pesos, inicia el servidor. A partir de aquí el contador está corriendo y nada debería interrumpirte.

Lo que un número virtual no hace #

Vale la pena ser claros sobre los límites, porque los fallos son predecibles.

• No hace anónima una cuenta por sí solo. La cuenta sigue teniendo un correo electrónico, un rastro de pagos y una huella de comportamiento; el número es solo un identificador entre varios.
• No permite sortear un servicio que rechaza específicamente los rangos no móviles — consulta por qué los servicios rechazan VoIP.
• No anula una marca. Si una plataforma ya ha decidido que una cuenta parece sospechosa, un código nuevo resuelve el desafío que tienes delante, no el motivo por el que apareció.
• No sustituye a un segundo factor. Un número es un canal de respaldo; una aplicación de autenticación es lo que hace que la cuenta siga siendo tuya.

Si un código deja de llegar a mitad de la configuración, la causa casi nunca es el modelo ni la máquina — por qué tu código de verificación nunca llegó repasa el puñado de motivos por los que realmente ocurre.

La forma de una configuración que aguanta #

La versión de esto que sobrevive al contacto con la realidad se parece bastante siempre. Computación alquilada por segundo y pagada en criptomonedas, de modo que la factura coincide con el trabajo y la instancia puede desaparecer cuando lo hace el proyecto. Pesos guardados en local, de modo que nadie puede revocarte el acceso a tu propio modelo. Una superficie elegida para necesitar el menor número posible de cuentas de consumidor. Y para las cuentas que de verdad no puedes evitar, un número que está ahí una vez para la puerta de entrada, o que sigue ahí seis meses después para el desafío, elegido de forma deliberada, y no según lo que fuera más barato ese día.

La computación se ha convertido en la parte fácil. Planifica las cuentas con el mismo cuidado con el que planificas la GPU, y el resto deja de ser interesante: que, tratándose de infraestructura, es exactamente el objetivo.