Ce n'a pas été seulement les ariens qui ont varié de cette sorte : toutes les hérésies dès l'origine du christianisme ont eu le même caractère; et longtemps avant Arius, Tertullien avait déjà dit : « Les hérétiques varient dans leurs règles, c'est-à-dire, dans leurs confessions de foi : chacun parmi eux se croit en droit de changer et de modifier par son propre esprit ce qu'il a reçu, comme c'est par son propre esprit que l'auteur de la secte l'a composé : l'hérésie retient toujours sa propre nature en ne cessant d'innover, et le progrès de la chose est semblable à son origine. Ce qui a été permis à Valentin l'est aussi aux valentiniens : les marcionites ont le même pouvoir que Marcion, et les auteurs d'une hérésie n'ont pas plus de droit d'innover que leurs sectateurs: tout change dans les hérésies; et quand on les pénètre à fond, on les trouve dans leur suite différentes en beaucoup de points de ce qu'elles ont été dans leur naissance. »