Apache Software Foundation kondigt Lakehouseproject Apache Paimon aan

De Apache Software Foundation heeft aangekondigd dat Apache Paimon van incubatieproject tot Top-Level Project is gepromoveerd. Paimon is een data lake formaat dat real-time lakehouse architecturen mogelijk maakt, gebouwd met Apache Flink en Apache Spark voor streaming en batch operaties. Paimon combineert op innovatieve wijze lake format en log-structured merge-tree (LSM) om real-time streaming updates in het data lake te brengen.

Paimon, voorheen bekend als Flink Table Store, werd voor het eerst ontwikkeld door de Flink-gemeenschap. Paimon wordt wereldwijd gebruikt in productieomgevingen door bedrijven als Alibaba, Ant Group, Bytedance, China Unicom en Tongcheng.  Feng Wang, hoofd Open Data Platform bij Alibaba Cloud, is blij dat Paimon nu een ASF-project van topniveau is geworden. "Paimon stelt Alibaba nu in staat om real-time updates en analyses uit te voeren op Lakehouse-architectuur, en we zullen Paimon in de toekomst ook inzetten voor AI-activiteiten."

Als streaming data lake platform stelt Paimon gebruikers in staat om gegevens te verwerken in zowel batch als streaming modi. De belangrijkste kenmerken en voordelen zijn
• Snelle gegevensverwerking: Paimon's append tabel (geen primaire sleutel) biedt grootschalige batch- en streamingverwerkingsmogelijkheden;
• Flexibele updates: Paimon geeft gebruikers de flexibiliteit om te kiezen bij het updaten van records, inclusief deduplicatie om de laatste rij te behouden; gedeeltelijke updates; aggregatierecords; updates van de eerste rij;
• Snelle real-time analyse: Door gebruik te maken van Flink Streaming ondersteunt Paimon's primaire sleuteltabel real-time streaming updates van grote hoeveelheden gegevens. Paimon voert real-time query's uit binnen een minuut;
• Vereenvoudigde Changelog productie: Paimon vereenvoudigt de streaming analytics van gebruikers door nauwkeurige en volledige changelog updates te produceren voor merge engines; en
• Data Query's met lage latentie: Paimon ondersteunt gegevensverdichting met z-order sortering om de bestandsindeling te optimaliseren. Door indexen zoals minmax te gebruiken, maakt Paimon ook snelle query's mogelijk op basis van data die wordt overgeslagen.