La arquitectura predice secuencias plausibles; el cálculo exacto exige algo que esa maquinaria no proporciona
Un modelo de lenguaje se entrena para predecir el siguiente elemento de una secuencia dado el contexto previo. Nada en ese objetivo menciona la verdad, la coherencia lógica o la corrección aritmética.
Un sistema diseñado para identificar pacientes que necesitan atención sanitaria adicional utilizó como variable objetivo el gasto sanitario previsto. La elección parecía razonable: quien más gasta,…
Conseguir que un vehículo mantenga el carril, respete distancias y frene ante obstáculos previsibles es un problema resuelto con fiabilidad alta.
Los datos reales son caros, escasos en dominios especializados y a menudo problemáticos desde el punto de vista de la privacidad o de los derechos.
Un conjunto de evaluación mide capacidad de generalización solo si el modelo no lo ha visto durante el entrenamiento.
Supongamos un sistema que detecta una condición presente en el uno por ciento de los casos. Un modelo que responda siempre «no» acertará el noventa y nueve por ciento de las veces.