Curs de pregatire Apache Iceberg Avansat

Această formare condusă de un instructor, în format live Moldova (online sau la fața locului), este destinată profesioniștilor din domeniul datelor de nivel începător care doresc să dobândească cunoștințele și abilitățile necesare pentru a utiliza eficient Apache Iceberg în gestionarea seturilor de date la scară mare, asigurarea integrității datelor și optimizarea fluxurilor de procesare a datelor.

La finalul acestei formări, participanții vor putea:

• Să înțeleagă pe deplin arhitectura, caracteristicile și beneficiile Apache Iceberg.
• Să învețe despre formatele de tabele, partiționarea, evoluția schemei și capacitățile de călătorie în timp.
• Să instaleze și să configureze Apache Iceberg în diferite medii.
• Să creeze, să gestioneze și să manipuleze tabele Iceberg.
• Să înțeleagă procesul de migrare a datelor din alte formate de tabele către Iceberg.

Acest training condus de un instructor, live în Moldova (online sau la fața locului), este destinat specialiștilor în știința datelor și inginerilor de nivel intermediar care doresc să utilizeze Google Colab și Apache Spark pentru procesarea și analiza datelor mari.

La finalul acestui training, participanții vor putea:

• Să configureze un mediu de big data folosind Google Colab și Spark.
• Să proceseze și să analizeze seturi mari de date eficient cu Apache Spark.
• Să vizualizeze datele mari într-un mediu colaborativ.
• Să integreze Apache Spark cu instrumente bazate pe cloud.

Progresele tehnologice și creșterea cantității de informații transformă modul în care afacerile sunt desfășurate în multe industrii, inclusiv în sectorul guvernamental. Rata de generare și arhivare digitală a datelor guvernamentale este în creștere datorită creșterii rapide a dispozitivelor și aplicațiilor mobile, a senzorilor și dispozitivelor inteligente, a soluțiilor de cloud computing și a portalelor pentru cetățeni. Pe măsură ce informațiile digitale se extind și devin mai complexe, gestionarea, procesarea, stocarea, securitatea și eliminarea lor devin și ele mai complexe. Noi instrumente de captură, căutare, descoperire și analiză ajută organizațiile să obțină informații valoroase din datele lor nestructurate. Piața guvernamentală se află într-un punct de cotitură, realizând că informația este un activ strategic, iar guvernul trebuie să protejeze, să valorifice și să analizeze atât informațiile structurate, cât și pe cele nestructurate pentru a servi mai bine și a îndeplini cerințele misiunii. Pe măsură ce liderii guvernamentali încearcă să dezvolte organizații bazate pe date pentru a îndeplini cu succes misiunea, ei pun bazele pentru corelarea dependențelor între evenimente, oameni, procese și informații.

Soluțiile guvernamentale de mare valoare vor fi create din amestecul celor mai disruptiv tehnologii:

• Dispozitive și aplicații mobile
• Servicii în cloud
• Tehnologii și rețele de afaceri sociale
• Big Data și analitica

Big Data este una dintre soluțiile inteligente ale industriei și permite guvernului să ia decizii mai bune acționând pe baza modelelor descoperite prin analiza unor volume mari de date — legate și nelegate, structurate și nestructurate.

Dar realizarea acestor realizări necesită mult mai mult decât simpla acumulare de cantități masive de date. „Înțelegerea acestor volume de Big Data necesită instrumente și tehnologii de ultimă oră care să poată analiza și să extragă cunoștințe utile din fluxuri vaste și diverse de informații”, au scris Tom Kalil și Fen Zhao de la Biroul pentru Știință și Tehnologie al Casei Albe într-un post pe blogul OSTP.

Casa Albă a făcut un pas către ajutarea agențiilor să găsească aceste tehnologii atunci când a înființat Inițiativa Națională de Cercetare și Dezvoltare Big Data în 2012. Inițiativa a inclus peste 200 de milioane de dolari pentru a valorifica explozia Big Data și instrumentele necesare pentru a o analiza.

Provocările pe care le prezintă Big Data sunt aproape la fel de descurajante pe cât este de încurajatoare promisiunea sa. Stocarea eficientă a datelor este una dintre aceste provocări. Ca întotdeauna, bugetele sunt limitate, așa că agențiile trebuie să minimizeze prețul pe megabyte al stocării și să păstreze datele accesibile astfel încât utilizatorii să le poată obține când doresc și cum au nevoie. Salvarea unor cantități masive de date amplifică provocarea.

Analiza eficientă a datelor este o altă provocare majoră. Multe agenții folosesc instrumente comerciale care le permit să cerceteze munții de date, identificând tendințe care le pot ajuta să funcționeze mai eficient. (Un studiu recent realizat de MeriTalk a constatat că directorii IT federali cred că Big Data ar putea ajuta agențiile să economisească peste 500 de miliarde de dolari, îndeplinind în același timp obiectivele misiunii.).

Instrumentele Big Data dezvoltate la comandă permit, de asemenea, agențiilor să răspundă nevoii de a-și analiza datele. De exemplu, Grupul de Analiză Computațională a Datelor de la Laboratorul Național Oak Ridge a pus la dispoziția altor agenții sistemul său de analiză a datelor Piranha. Sistemul a ajutat cercetătorii medicali să găsească o legătură care să alerteze medicii cu privire la anevrisme aortice înainte ca acestea să apară. De asemenea, este folosit pentru sarcini mai obișnuite, cum ar fi sortarea CV-urilor pentru a conecta candidații cu managerii de angajare.

Apache Hadoop este cel mai popular cadru de lucru pentru procesarea Big Data pe clustere de servere. În acest curs de trei (opțional, patru) zile, participanții vor învăța despre beneficiile de afaceri și cazurile de utilizare ale Hadoop și ale ecosistemului său, cum să planifice implementarea și creșterea clusterului, cum să instaleze, să întrețină, să monitorizeze, să depaneze și să optimizeze Hadoop. De asemenea, vor practica încărcarea masivă de date în cluster, se vor familiariza cu diverse distribuții Hadoop și vor exersa instalarea și gestionarea instrumentelor din ecosistemul Hadoop. Cursul se încheie cu o discuție despre securizarea clusterului cu Kerberos.

„…Materialele au fost foarte bine pregătite și acoperite în profunzime. Laboratorul a fost foarte util și bine organizat.”
— Andrew Nguyen, Principal Integration DW Engineer, Microsoft Online Advertising

Public țintă

Administratori Hadoop

Format

Prelegeri și laboratoare practice, cu un echilibru aproximativ de 60% prelegeri și 40% laboratoare.

Apache NiFi este o platformă open-source bazată pe fluxuri pentru integrarea datelor și procesarea evenimentelor. Permite rutarea, transformarea și medierea automată a datelor în timp real între sisteme disparate, cu o interfață web și control detaliat.

Acest training condus de un instructor, live (pe fața locului sau la distanță), este destinat administratorilor și inginerilor de nivel intermediar care doresc să implementeze, să gestioneze, să securizeze și să optimizeze fluxurile de date NiFi în medii de producție.

La finalul acestui training, participanții vor putea:

• Să instaleze, să configureze și să întrețină clustere Apache NiFi.
• Să proiecteze și să gestioneze fluxuri de date din diverse surse și destinații.
• Să implementeze automatizarea fluxurilor, rutarea și logica de transformare.
• Să optimizeze performanța, să monitorizeze operațiunile și să depaneze problemele.

Formatul Cursului

• Prelegere interactivă cu discuții despre arhitectura din lumea reală.
• Laboratoare practice: construirea, implementarea și gestionarea fluxurilor.
• Exerciții bazate pe scenarii într-un mediu de laborator live.

Opțiuni de Personalizare a Cursului

• Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.

În cadrul acestui training condus de un instructor, participanții vor învăța elementele de bază ale programării bazate pe fluxuri, dezvoltând o serie de extensii, componente și procesoare demo folosind Apache NiFi.

La finalul acestui training, participanții vor putea:

• Să înțeleagă arhitectura NiFi și conceptele de flux de date.
• Să dezvolte extensii folosind NiFi și API-uri terțe.
• Să dezvolte propriul procesor Apache NiFi.
• Să ingere și să proceseze date în timp real din formate de fișiere și surse de date diverse și neobișnuite.

Acest training oferă o introducere practică în construirea fluxurilor de lucru scalabile pentru procesarea datelor și Învățarea Automată folosind PySpark. Participanții învață cum funcționează Apache Spark în ecosistemele moderne de Big Data și cum să proceseze eficient seturi mari de date folosind principiile calculului distribuit.

Acest training condus de un instructor, live în Moldova (online sau la fața locului) este destinat inginerilor care doresc să configureze și să implementeze sistemul Apache Spark pentru procesarea unor volume foarte mari de date.

La finalul acestui training, participanții vor putea:

• Instala și configura Apache Spark.
• Procesarea și analiza rapidă a unor seturi de date foarte mari.
• Înțelege diferența dintre Apache Spark și Hadoop MapReduce și când să folosească fiecare.
• Integrarea Apache Spark cu alte instrumente de învățare automată.

Acest training condus de un instructor, live în Moldova (online sau la fața locului) este destinat administratorilor de sisteme de la nivel începător până la intermediar care doresc să implementeze, să întrețină și să optimizeze clustere Spark.

La finalul acestui training, participanții vor fi capabili să:

• Instaleze și configureze Apache Spark în diverse medii.
• Gestioneze resursele clusterului și monitorizeze aplicațiile Spark.
• Optimizeze performanța clusterelor Spark.
• Implementeze măsuri de securitate și asigure o disponibilitate ridicată.
• Depaneze și rezolve probleme comune în Spark.

Curba de învățare a Apache Spark crește lent la început, fiind necesar un efort considerabil pentru a obține primele rezultate. Acest curs își propune să treacă peste această parte dificilă inițială. După parcurgerea acestui curs, participanții vor înțelege elementele de bază ale Apache Spark, vor face distincția clară între RDD și DataFrame, vor învăța API-urile Python și Scala, vor înțelege executoarele și sarcinile, etc. De asemenea, urmând cele mai bune practici, acest curs se concentrează puternic pe implementarea în cloud, Databricks și AWS. Studenții vor înțelege, de asemenea, diferențele dintre AWS EMR și AWS Glue, unul dintre cele mai recente servicii Spark ale AWS.

PUBLICUL ȚINTĂ:

Inginer de date, DevOps, Specialist în Știința Datelor

În acest training condus de un instructor, în format live în Moldova, participanții vor învăța cum să folosească Python și Spark împreună pentru a analiza date mari, lucrând la exerciții practice.

La finalul acestui training, participanții vor fi capabili să:

• Învețe cum să folosească Spark cu Python pentru a analiza date mari.
• Lucreze la exerciții care imită cazuri din lumea reală.
• Folosească diverse instrumente și tehnici pentru analiza datelor mari folosind PySpark.

Acest training condus de un instructor, live în Moldova (online sau la fața locului), este destinat dezvoltatorilor care doresc să utilizeze și să integreze Spark, Hadoop și Python pentru a procesa, analiza și transforma seturi de date mari și complexe.

La finalul acestui training, participanții vor putea:

• Să configureze mediul necesar pentru a începe procesarea datelor mari cu Spark, Hadoop și Python.
• Să înțeleagă caracteristicile, componentele de bază și arhitectura Spark și Hadoop.
• Să învețe cum să integreze Spark, Hadoop și Python pentru procesarea datelor mari.
• Să exploreze instrumentele din ecosistemul Spark (Spark MlLib, Spark Streaming, Kafka, Sqoop, Kafka și Flume).
• Să construiască sisteme de recomandare bazate pe filtrare colaborativă asemănătoare cu cele de la Netflix, YouTube, Amazon, Spotify și Google.
• Să utilizeze Apache Mahout pentru a scala algoritmii de învățare automată.

Spark SQL este modulul Apache Spark pentru lucrul cu date structurate și nestructurate. Spark SQL oferă informații despre structura datelor, precum și despre calculul care este efectuat. Aceste informații pot fi folosite pentru a realiza optimizări. Două utilizări comune ale Spark SQL sunt:
- executarea interogărilor SQL.
- citirea datelor dintr-o instalare existentă Hive.

În acest training condus de un instructor, live (la fața locului sau la distanță), participanții vor învăța cum să analizeze diverse tipuri de seturi de date folosind Spark SQL.

La finalul acestui training, participanții vor putea:

• Instala și configura Spark SQL.
• Efectua analiza datelor folosind Spark SQL.
• Interoga seturi de date în diferite formate.
• Vizualiza datele și rezultatele interogărilor.

Formatul Cursului

• Prelegere interactivă și discuții.
• Multe exerciții și practică.
• Implementare practică într-un mediu live-lab.

Opțiuni de Personalizare a Cursului

• Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.

Stratio este o platformă centrată pe date care integrează date masive, inteligență artificială și guvernanță într-o singură soluție. Modulele sale Rocket și Intelligence permit explorarea, transformarea și analiza avansată a datelor în mediile de întreprindere.

Acest training condus de un instructor, live (online sau la fața locului), este destinat profesioniștilor de date de nivel intermediar care doresc să utilizeze eficient modulele Rocket și Intelligence din Stratio cu PySpark, concentrându-se pe structuri repetitive, funcții definite de utilizator și logică avansată a datelor.

La finalul acestui training, participanții vor putea:

• Naviga și lucrează în platforma Stratio folosind modulele Rocket și Intelligence.
• Aplică PySpark în contextul ingerării, transformării și analizei datelor.
• Folosește bucle și logică condițională pentru a controla fluxurile de date și sarcinile de inginerie a caracteristicilor.
• Creează și gestionează funcții definite de utilizator (UDF) pentru operațiuni reutilizabile de date în PySpark.

Formatul cursului

• Prelegere interactivă și discuții.
• Multe exerciții și practică.
• Implementare practică într-un mediu live-lab.

Opțiuni de personalizare a cursului

• Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.