Wir werden lernen, wie man einen voll funktionsfähigen Transformer auf unseren Laptops trainiert. Wie das Training eines Next-Token-Prediction-Transformers, der einen Taschenrechner beim Addieren zweier Zahlen nachahmt, effizient funktioniert versuchen wir gemeinsam zu Verstehen.
Im [nächsten Teil](https://events.ccc.de/congress/2025/hub/event/detail/discovering-transformer-internals-part-2-exploring
- werden wir uns damit befassen, wie die Interna funktionieren und warum unsere eigenen trainierten Modelle funktionieren. Bringt einen Laptop mit Python und PyTorch vorinstalliert mit. Bei Fragen können Sie mich unter DECT 9560 erreichen.
Aktuelle Informationen zu Ort und Zeit werden hier bekannt gegeben. Weitere Information im Repository.
UPDATE ORT: Near Workshopspace 1
Ort
Stairway here https://39c3.c3nav.de/l/c:3:191.49:143.11/