Curs de pregatire Fundamentele Apache Iceberg

Publicul țintă:

Cursul este destinat specialiștilor IT care caută o soluție pentru stocarea și procesarea seturilor mari de date într-un mediu de sistem distribuit

Obiectiv:

Dobândirea de cunoștințe aprofundate despre administrarea clusterelor Hadoop.

Acest training condus de un instructor, live în Moldova (online sau la fața locului), este destinat specialiștilor în știința datelor și inginerilor de nivel intermediar care doresc să utilizeze Google Colab și Apache Spark pentru procesarea și analiza datelor mari.

La finalul acestui training, participanții vor putea:

• Să configureze un mediu de big data folosind Google Colab și Spark.
• Să proceseze și să analizeze seturi mari de date eficient cu Apache Spark.
• Să vizualizeze datele mari într-un mediu colaborativ.
• Să integreze Apache Spark cu instrumente bazate pe cloud.

Analiza Big Data presupune procesul de examinare a unor volume mari de seturi de date variate pentru a descoperi corelații, modele ascunse și alte informații utile.

Industria sănătății dispune de cantități uriașe de date medicale și clinice complexe și eterogene. Aplicarea analizei Big Data asupra datelor din domeniul sănătății prezintă un potențial imens în obținerea de informații pentru îmbunătățirea furnizării serviciilor medicale. Cu toate acestea, amploarea acestor seturi de date aduce mari provocări în analize și aplicații practice într-un mediu clinic.

În cadrul acestui training condus de un instructor, live (la distanță), participanții vor învăța cum să efectueze analize Big Data în domeniul sănătății, parcurgând o serie de exerciții practice în laborator.

La finalul acestui training, participanții vor fi capabili să:

• Instaleze și configureze instrumente de analiză Big Data, cum ar fi Hadoop MapReduce și Spark
• Înțeleagă caracteristicile datelor medicale
• Aplice tehnici Big Data pentru a gestiona datele medicale
• Studieze sistemele și algoritmii Big Data în contextul aplicațiilor din sănătate

Publicul țintă

• Dezvoltatori
• Specialiști în Știința Datelor

Formatul cursului

• Parte teoretică, parte discuții, exerciții și practică intensivă.

Notă

• Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.

Apache Hadoop este cel mai popular cadru de lucru pentru procesarea Big Data pe clustere de servere. În acest curs de trei (opțional, patru) zile, participanții vor învăța despre beneficiile de afaceri și cazurile de utilizare ale Hadoop și ale ecosistemului său, cum să planifice implementarea și creșterea clusterului, cum să instaleze, să întrețină, să monitorizeze, să depaneze și să optimizeze Hadoop. De asemenea, vor practica încărcarea masivă de date în cluster, se vor familiariza cu diverse distribuții Hadoop și vor exersa instalarea și gestionarea instrumentelor din ecosistemul Hadoop. Cursul se încheie cu o discuție despre securizarea clusterului cu Kerberos.

„…Materialele au fost foarte bine pregătite și acoperite în profunzime. Laboratorul a fost foarte util și bine organizat.”
— Andrew Nguyen, Principal Integration DW Engineer, Microsoft Online Advertising

Public țintă

Administratori Hadoop

Format

Prelegeri și laboratoare practice, cu un echilibru aproximativ de 60% prelegeri și 40% laboratoare.

Apache Hadoop este cel mai popular cadru de procesare a Big Data pe clustere de servere. Acest curs îi va prezenta unui dezvoltator diverse componente (HDFS, MapReduce, Pig, Hive și HBase) ale ecosistemului Hadoop.

Apache Hadoop este unul dintre cele mai populare cadre de lucru pentru procesarea Big Data pe clustere de servere. Acest curs explorează gestionarea datelor în HDFS, precum și aspecte avansate ale Pig, Hive și HBase. Aceste tehnici avansate de programare vor fi benefice pentru dezvoltatorii experimentați de Hadoop.

Publicul țintă: dezvoltatori

Durata: trei zile

Format: prelegeri (50%) și exerciții practice (50%).

Publicul țintă:

Acest curs are scopul de a demistifica tehnologia big data/hadoop și de a arăta că nu este greu de înțeles.

Acest training condus de un instructor, live în Moldova (online sau la fața locului), este destinat administratorilor de sistem care doresc să învețe cum să configureze, să implementeze și să gestioneze clustere Hadoop în organizația lor.

La sfârșitul acestui training, participanții vor putea:

• Instala și configura Apache Hadoop.
• Înțelege cele patru componente majore ale ecosistemului Hadoop: HDFS, MapReduce, YARN și Hadoop Common.
• Utiliza Hadoop Distributed File System (HDFS) pentru a scala un cluster la sute sau mii de noduri.  
• Configura HDFS să funcționeze ca motor de stocare pentru implementări Spark on-premise.
• Configura Spark pentru a accesa soluții alternative de stocare, cum ar fi Amazon S3 și sisteme de baze de date NoSQL, precum Redis, Elasticsearch, Couchbase, Aerospike, etc.
• Efectua sarcini administrative, cum ar fi provizionarea, gestionarea, monitorizarea și securizarea unui cluster Apache Hadoop.

Acest curs introduce HBase – un depozit NoSQL bazat pe Hadoop. Cursul este destinat dezvoltatorilor care vor folosi HBase pentru a dezvolta aplicații și administratorilor care vor gestiona clustere HBase.

Vom ghida un dezvoltator prin arhitectura HBase, modelarea datelor și dezvoltarea aplicațiilor pe HBase. De asemenea, vom discuta despre utilizarea MapReduce cu HBase și câteva subiecte de administrare legate de optimizarea performanței. Cursul este foarte practic, cu multe exerciții de laborator.

Durată: 3 zile

Public țintă: Dezvoltatori și Administratori

Apache NiFi este o platformă open-source bazată pe fluxuri pentru integrarea datelor și procesarea evenimentelor. Permite rutarea, transformarea și medierea automată a datelor în timp real între sisteme disparate, cu o interfață web și control detaliat.

Acest training condus de un instructor, live (pe fața locului sau la distanță), este destinat administratorilor și inginerilor de nivel intermediar care doresc să implementeze, să gestioneze, să securizeze și să optimizeze fluxurile de date NiFi în medii de producție.

La finalul acestui training, participanții vor putea:

• Să instaleze, să configureze și să întrețină clustere Apache NiFi.
• Să proiecteze și să gestioneze fluxuri de date din diverse surse și destinații.
• Să implementeze automatizarea fluxurilor, rutarea și logica de transformare.
• Să optimizeze performanța, să monitorizeze operațiunile și să depaneze problemele.

Formatul Cursului

• Prelegere interactivă cu discuții despre arhitectura din lumea reală.
• Laboratoare practice: construirea, implementarea și gestionarea fluxurilor.
• Exerciții bazate pe scenarii într-un mediu de laborator live.

Opțiuni de Personalizare a Cursului

• Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.

În cadrul acestui training condus de un instructor, participanții vor învăța elementele de bază ale programării bazate pe fluxuri, dezvoltând o serie de extensii, componente și procesoare demo folosind Apache NiFi.

La finalul acestui training, participanții vor putea:

• Să înțeleagă arhitectura NiFi și conceptele de flux de date.
• Să dezvolte extensii folosind NiFi și API-uri terțe.
• Să dezvolte propriul procesor Apache NiFi.
• Să ingere și să proceseze date în timp real din formate de fișiere și surse de date diverse și neobișnuite.

Acest training oferă o introducere practică în construirea fluxurilor de lucru scalabile pentru procesarea datelor și Învățarea Automată folosind PySpark. Participanții învață cum funcționează Apache Spark în ecosistemele moderne de Big Data și cum să proceseze eficient seturi mari de date folosind principiile calculului distribuit.

În acest training condus de un instructor, în format live în Moldova, participanții vor învăța cum să folosească Python și Spark împreună pentru a analiza date mari, lucrând la exerciții practice.

La finalul acestui training, participanții vor fi capabili să:

• Învețe cum să folosească Spark cu Python pentru a analiza date mari.
• Lucreze la exerciții care imită cazuri din lumea reală.
• Folosească diverse instrumente și tehnici pentru analiza datelor mari folosind PySpark.

Acest training condus de un instructor, live în Moldova (online sau la fața locului), este destinat dezvoltatorilor care doresc să utilizeze și să integreze Spark, Hadoop și Python pentru a procesa, analiza și transforma seturi de date mari și complexe.

La finalul acestui training, participanții vor putea:

• Să configureze mediul necesar pentru a începe procesarea datelor mari cu Spark, Hadoop și Python.
• Să înțeleagă caracteristicile, componentele de bază și arhitectura Spark și Hadoop.
• Să învețe cum să integreze Spark, Hadoop și Python pentru procesarea datelor mari.
• Să exploreze instrumentele din ecosistemul Spark (Spark MlLib, Spark Streaming, Kafka, Sqoop, Kafka și Flume).
• Să construiască sisteme de recomandare bazate pe filtrare colaborativă asemănătoare cu cele de la Netflix, YouTube, Amazon, Spotify și Google.
• Să utilizeze Apache Mahout pentru a scala algoritmii de învățare automată.

Stratio este o platformă centrată pe date care integrează date masive, inteligență artificială și guvernanță într-o singură soluție. Modulele sale Rocket și Intelligence permit explorarea, transformarea și analiza avansată a datelor în mediile de întreprindere.

Acest training condus de un instructor, live (online sau la fața locului), este destinat profesioniștilor de date de nivel intermediar care doresc să utilizeze eficient modulele Rocket și Intelligence din Stratio cu PySpark, concentrându-se pe structuri repetitive, funcții definite de utilizator și logică avansată a datelor.

La finalul acestui training, participanții vor putea:

• Naviga și lucrează în platforma Stratio folosind modulele Rocket și Intelligence.
• Aplică PySpark în contextul ingerării, transformării și analizei datelor.
• Folosește bucle și logică condițională pentru a controla fluxurile de date și sarcinile de inginerie a caracteristicilor.
• Creează și gestionează funcții definite de utilizator (UDF) pentru operațiuni reutilizabile de date în PySpark.

Formatul cursului

• Prelegere interactivă și discuții.
• Multe exerciții și practică.
• Implementare practică într-un mediu live-lab.

Opțiuni de personalizare a cursului

• Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.