Ich bin zwar kein "Mathelehrer", aber ich antworte trotzdem mal. Eventuell sind ein paar Tipps aus der Mathematik hilfreich.
Formeln werden natürlich in Latex erstellt, bzw Latex im Formeleditor.
Das ist doch schon die Lösung. Graphiken erstelle ich auch in LaTeX mit PSTricks. Damit geht eigentlich alles. Neben der Doku zum Paket gibt es wenig Literatur. Ich kenne nur das Buch von Herbert Voß: https://www.dante.de/dante-e-v/literatur/pstricks/
Vorteile aus meiner Sicht: Es ist alles aus einem Guß, nicht hier getippt, da eine Graphik erstellt, dann irgendwie eingebunden, raffel, daffel. Insbesondere kannst du in den Graphiken die gleichen Fonts verwenden wie im Text. Da finde ich gerade bei den Formelzeichen wichtig. Dann hast du immer das gleiche kursive eff für die Funktion etc.
Auf der anderen Seite ist man sehr flexibel, man so so ziemlich alles einstellen nicht Liniendicke, -form und Farbe, sondern z. B. die Form und Größe der Pfeile an den Achsen. Man kann Schrift auf einem Pfad entlangführen (also z.B. einen Text auf den Rand eienr Ellipse setzen), Transparenzen verwenden und was nicht alles. Für Bäume gibt's extra Befehle.
Am Ende hast du dann eine schöne PDF-Datei.
Der Nachteil, insbesondere am Anfang ist, dass man sich die Bilder nicht zusammenklickt, sondern quasi ausprogrammiert. Die Syntax muss man halt erst lernen. Für mich hat es sich aber gelohnt.
professionellen Tools fehlen, wenn ich mir so die Schulbücher
Schulbücher finde ich erster Linie bunt. Professionellen Satz vermag ich da meist nicht zu erkennen. Das fängt schon damit an, dass Formelzeichen nicht kursiv gesetzt werden.