PyTorch
Facebooks deep learning-framework der er blevet standarden i forskningsmiljøer. Kendt for sin Pythoniske API, dynamiske beregningsgrafer og intuitive debugging.
https://pytorch.orgPyTorch er et open-source deep learning-framework udviklet af Facebooks AI Research lab (FAIR) og frigivet i 2016. Det har hurtigt vundet popularitet og er i dag det dominerende framework i forskningsmiljøer og vinder også terræn i industrien.
PyTorchs kernestyrke er dets "Pythoniske" tilgang. Koden føles naturlig for Python-udviklere, og dynamiske beregningsgrafer (define-by-run) betyder at grafen bygges on-the-fly under afviklingen. Dette gør debugging triviel med standard Python-værktøjer som pdb og print statements.
Tensorer i PyTorch fungerer som NumPy-arrays med GPU-acceleration. Konvertering mellem NumPy og PyTorch er gnidningsfri, hvilket gør integrationen med det eksisterende Python-datascience-økosystem sømløs.
Autograd er PyTorchs automatiske differentieringssystem. Det sporer alle operationer på tensorer og beregner automatisk gradienter via backpropagation. Dette gør det let at eksperimentere med custom loss-funktioner og arkitekturer.
torch.nn modulet tilbyder præbyggede lag (Linear, Conv2d, LSTM, Transformer) og containers (Sequential, ModuleList) til at bygge neurale netværk. nn.Module er base-klassen for alle netværk og giver en ren, objektorienteret struktur.
PyTorch Lightning er et populært høj-niveau framework bygget oven på PyTorch der abstraherer boilerplate-kode som træningsloops, logging og checkpointing. Det organiserer kode i et standardiseret format uden at ofre fleksibilitet.
Hugging Face Transformers-biblioteket, der er bygget primært til PyTorch, har gjort det trivielt at bruge fortrænede sprogmodeller (BERT, GPT, T5) til NLP-opgaver. Dette har yderligere cementeret PyTorchs position i NLP-forskning.
TorchServe håndterer model-serving i produktion. ONNX-formatet muliggør eksport af PyTorch-modeller til andre frameworks. PyTorch Mobile understøtter deployment til iOS og Android.
Meta har investeret massivt i PyTorchs fremtid: PyTorch 2.0 introducerede torch.compile() for automatisk optimering af modeller, og frameworket er nu under PyTorch Foundation (under Linux Foundation) for at sikre uafhængig styring.
Video-introduktion
PyTorch in 100 Seconds - Fireship
Styrker
Andre frameworks
TensorFlow
Python, C++, JavaScriptGoogles open-source framework til machine learning og deep learning. Det mest udbredte ML-framework i produktion med stærkt økosystem og deployment-muligheder.
Scikit-learn
PythonDet mest populære Python-bibliotek til klassisk machine learning. Tilbyder en konsistent API til hundredvis af algoritmer med fremragende dokumentation.
Keras
PythonEt brugervenligt high-level API til deep learning der gør det muligt at bygge og træne neurale netværk med minimal kode. Nu integreret som standard API i TensorFlow.