Crecieron en Catania y empezaron a programar juntos de niños: primero juegos y scripts, después cualquier cosa que necesitara que un ordenador hiciera algo que no hacía de serie. La costumbre se quedó. La universidad le puso dos nombres, Ciencias de la Computación para uno e Ingeniería Informática para el otro, los dos en la Universidad de Catania.
Las dos carreras se solapan exactamente donde vive MAFDET. Por un lado la teoría de cómo un modelo de lenguaje lee (prefill, en paralelo y rápido) y escribe (decode, un token cada vez). Por otro el hardware que tiene que hacerlo lo bastante rápido como para parecer instantáneo, con una caché KV que cabe en seis gigabytes.
MAFDET nació de una medición, no de un eslogan. Un modelo local en una RTX 2060 responde a un problema de matemáticas unos doce segundos después de Enter, y la mayoría de esos segundos son razonamiento. Durante los veinte o treinta segundos que se tarda en escribir la pregunta, la GPU está parada. La pregunta vino sola: ¿se puede usar ese tiempo?
Leer por adelantado fue la mitad fácil: mantener la caché KV sincronizada con el texto, retener los últimos tokens, recortar al prefijo común en cada edición. Es exacto, y mafdet judge lo demuestra frente a un cálculo desde cero. Razonar por adelantado fue la mitad difícil: un modelo que razona sobre un mensaje que no está terminado, con sus notas conservadas entre ediciones. Eso no es exacto, así que se midió de la única manera honesta, con problemas de respuesta conocida, decenas de veces, en dos máquinas.
Se construyó a propósito para el hardware que tiene la mayoría de la gente: una tarjeta de seis gigabytes de 2019 como máquina de referencia, un M2 Pro como segunda, y una ruta por CPU para todo lo demás. Un hardware más rápido lo hace más rápido. No lo necesita.
