Data scientists die in Scala werken kunnen nu aan de slag met een door Netflix opgezet eigen data science-notebook. Onder de naam Polynote is het vrijgegeven als open source.
Polynote is een polyglot product en ondersteunt als zodanig meerdere talen, waaronder Scala, Python en SQL. Ontwikkelaars kunnen code in elk van deze talen schrijven en Polynote zal deze getrouw in alle cellen uitvoeren. Netflix-ontwikkelaars Jeremy Smith, Jonathan Indig en Faisal Siddiqi hebben Polynote opgezet na de tekortkomingen die ze zagen in bestaande notebooktools, vooral met betrekking tot ondersteuning van Scala.
Netflix bouwde Polynote om meer te werken als een volwaardige geïntegreerde ontwikkelomgeving (IDE) dan typische data science-notebooks. Daartoe bouwde het bedrijf Polynote's code-interpretatie helemaal opnieuw op in plaats van te vertrouwen op een read-evalu-print-loop (REPL) zoals een traditionele notebook. De rich text-editor van de notebook biedt andere IDE-achtige functies, waaronder syntax error markering, auto-complete en parameterhints. Het biedt ook integratie met Apache Spark, wat zou moeten helpen een aantal van de afhankelijkheidsproblemen te verminderen die vaak door Spark-ontwikkelaars worden ervaren.
"Met Spark werken ontwikkelaars in een clustercomputeromgeving waar het absoluut noodzakelijk is dat hun gedistribueerde code in een consistente omgeving wordt uitgevoerd, ongeacht welk knooppunt wordt gebruikt", schrijft Netflix. "Tenslotte hebben we geconstateerd dat onze gebruikers ook gefrustreerd waren met de code editing mogelijkheden in notebooks, vooral als ze gewend waren IntelliJ IDEA of Eclipse te gebruiken."
Polynote sluit aan op visualisatiebibliotheken van matplotlib, wat vrij standaard is bij notebooks. Het ondersteunt ook data exploration mogelijkheden dankzij een data schema view, table inspector, plot constructor en ondersteuning voor Vega.
Netflix is biedt Polynote onder een Apache 2-licentie. Het project wordt onderhouden op GitHub.
Meer informatie: polynote.org
28 maart 2024 (halve dag)Praktische workshop met Alec Sharp [Halve dag] Deze workshop door Alec Sharp introduceert conceptmodellering vanuit een non-technisch perspectief. Alec geeft tips en richtlijnen voor de analist, en verkent datamodellering op ...
28 maart 2023 Dit seminar met Mike Ferguson gaat dieper in op de ontwikkeling van dataproducten en ook hoe je een datamarktplaats kunt gebruiken om het delen van dataproducten in de hele organisatie te regelen en te delen om de time-to-value t...
9 april 2024Workshop met BPM-specialist Christian Gijsels over business analyse, modelleren en simuleren met de nieuwste release van Sparx Systems' Enterprise Architect, versie 16.Intensieve cursus waarin de belangrijkste basisfunctionaliteiten van E...
16 april 2024 Praktisch en interactief seminar met Nigel Turner Data-gedreven worden lukt niet door alleen nieuwe technologie en tools aan te schaffen. Het vereist een transformatie van bestaande business modellen, met cultuurverandering, een herontw...
29 - 31 mei 2024Praktische driedaagse workshop met internationaal gerenommeerde spreker Alec Sharp over herkennen, beschrijven en ontwerpen van business processen. De workshop wordt ondersteund met praktijkvoorbeelden en duidelijke, herbruikbare rich...
10 t/m 12 juni 2024 Praktische workshop Data Management Fundamentals door Chris Bradley - CDMP-examinatie optioneel De DAMA DMBoK2 beschrijft 11 disciplines van Data Management, waarbij Data Governance centraal staat. De Certified Data Managem...
Deel dit bericht