La factorización de formas cuadradas de Shanks es un método para factorizar enteros inventado por Daniel Shanks como una mejora del método de factorización de Fermat.
El éxito del método depende de encontrar números enteros
es el entero a ser factorizado.
Una mejora (indicada por Kraitchik) es buscar enteros
Encontrando un par adecuado
no se garantiza una factorización de
, pero esto implica que
, y hay una buena posibilidad de que los divisores primos de
estén distribuidos entre esos dos factores, así que el cálculo del máximo común divisor de
dará un factor no trivial de
Un algoritmo práctico para encontrar pares
fue desarrollado por Shanks, que lo llamó Factorización de formas cuadradas (en inglés Square Forms Factorization o SQUFOF).
El algoritmo puede ser expresado en términos de fracciones continuas, o en términos de formas cuadráticas.
A pesar de que ahora existen métodos de factorización más eficientes disponibles, SQUFOF tiene la ventaja de que es lo suficientemente pequeño para ser implementado en una calculadora programable.