De Apache Software Foundation heeft aangekondigd dat Apache Paimon van incubatieproject tot Top-Level Project is gepromoveerd. Paimon is een data lake formaat dat real-time lakehouse architecturen mogelijk maakt, gebouwd met Apache Flink en Apache Spark voor streaming en batch operaties. Paimon combineert op innovatieve wijze lake format en log-structured merge-tree (LSM) om real-time streaming updates in het data lake te brengen.
Paimon, voorheen bekend als Flink Table Store, werd voor het eerst ontwikkeld door de Flink-gemeenschap. Paimon wordt wereldwijd gebruikt in productieomgevingen door bedrijven als Alibaba, Ant Group, Bytedance, China Unicom en Tongcheng. Feng Wang, hoofd Open Data Platform bij Alibaba Cloud, is blij dat Paimon nu een ASF-project van topniveau is geworden. "Paimon stelt Alibaba nu in staat om real-time updates en analyses uit te voeren op Lakehouse-architectuur, en we zullen Paimon in de toekomst ook inzetten voor AI-activiteiten."
Als streaming data lake platform stelt Paimon gebruikers in staat om gegevens te verwerken in zowel batch als streaming modi. De belangrijkste kenmerken en voordelen zijn
• Snelle gegevensverwerking: Paimon's append tabel (geen primaire sleutel) biedt grootschalige batch- en streamingverwerkingsmogelijkheden;
• Flexibele updates: Paimon geeft gebruikers de flexibiliteit om te kiezen bij het updaten van records, inclusief deduplicatie om de laatste rij te behouden; gedeeltelijke updates; aggregatierecords; updates van de eerste rij;
• Snelle real-time analyse: Door gebruik te maken van Flink Streaming ondersteunt Paimon's primaire sleuteltabel real-time streaming updates van grote hoeveelheden gegevens. Paimon voert real-time query's uit binnen een minuut;
• Vereenvoudigde Changelog productie: Paimon vereenvoudigt de streaming analytics van gebruikers door nauwkeurige en volledige changelog updates te produceren voor merge engines; en
• Data Query's met lage latentie: Paimon ondersteunt gegevensverdichting met z-order sortering om de bestandsindeling te optimaliseren. Door indexen zoals minmax te gebruiken, maakt Paimon ook snelle query's mogelijk op basis van data die wordt overgeslagen.
15 oktober 2024 Workshop met BPM-specialist Christian Gijsels over AI-Gedreven Business Analyse met ChatGPT. Kunstmatige Intelligentie, ongetwijfeld een van de meest baanbrekende technologieën tot nu toe, opent nieuwe deuren voor analisten met i...
7 november (online seminar op 1 middag)Praktische tutorial met Alec Sharp Alec Sharp illustreert de vele manieren waarop conceptmodellen (conceptuele datamodellen) procesverandering en business analyse ondersteunen. En hij behandelt wat elke data-pr...
18 t/m 20 november 2024Praktische workshop met internationaal gerenommeerde spreker Alec Sharp over het modelleren met Entity-Relationship vanuit business perspectief. De workshop wordt ondersteund met praktijkvoorbeelden en duidelijke, herbruikbare ...
21 november 2024 Praktische en interactieve workshop met Nigel Turner Data-gedreven worden lukt niet door alleen nieuwe technologie en tools aan te schaffen. Het vereist een transformatie van bestaande business modellen, met cultuurverandering, een h...
28 november 2024Workshop met BPM-specialist Christian Gijsels over business analyse, modelleren en simuleren met de nieuwste release van Sparx Systems' Enterprise Architect, versie 16.Intensieve cursus waarin de belangrijkste basisfunctionaliteiten v...
De DAMA DMBoK2 beschrijft 11 disciplines van Data Management, waarbij Data Governance centraal staat. De Certified Data Management Professional (CDMP) certificatie biedt een traject voor het inleidende niveau (Associate) tot en met hogere niveaus van...
3 april 2025 (halve dag)Praktische workshop met Alec Sharp [Halve dag] Deze workshop door Alec Sharp introduceert conceptmodellering vanuit een non-technisch perspectief. Alec geeft tips en richtlijnen voor de analist, en verkent datamodellering op c...
10, 11 en 14 april 2025Praktische driedaagse workshop met internationaal gerenommeerde spreker Alec Sharp over herkennen, beschrijven en ontwerpen van business processen. De workshop wordt ondersteund met praktijkvoorbeelden en duidelijke, herbruikba...
Deel dit bericht