/ We know how

Zarządzanie Big Data, czyli jakie wyzwania stawiają przed nami obszerne zbiory danych?

Każdego dnia produkowane są niezliczone ilości danych. Według Rzeczpospolitej już w 2025 roku  średni zużywany pakiet wzrośnie w Polsce do 21,84 GB.

 

Wraz z tym, jak organizacje poszukują coraz bardziej inteligentnych procesów (obejmujących m.in. systemy ERP), działy IT mierzą się ze znalezieniem odpowiednich rozwiązań również w zakresie Big Data Management (takich jak np. technologia Cloud Native). Niesie to za sobą wiele wyzwań, od zarządzania wzrostem ilości danych, po generowanie update’ów i integrację różnych źródeł. Nie bez znaczenia w tym wszystkim są również kwestie związane z bezpieczeństwemśrodowiskiem.

 

Właściwa strategia zarządzania danymi o dużym wolumenie potrafi jednak zdziałać cuda. Oprócz przyspieszonego pozyskiwania informacji i uproszczonych analiz w czasie rzeczywistym, zapewnia ona również m.in. kontrolę kosztów i wszelkich obciążeń systemowych.

 

 

Big Data – co to jest? Co wchodzi w skład zarządzania Big Data?

 

Zarządzanie Big Data to szeroki koncept, który obejmuje wszystkie procedury i technologie używane do gromadzenia, przechowywania i organizacji dużych repozytoriów danych. Może obejmować ich czyszczenie, migrację, integrację oraz przygotowanie do wykorzystania w raportowaniu i analityce.

 

Zarządzanie zbiorami danych tego typu ma bowiem na celu zapewnienie ich wysokiej jakości i dostępności pod kątem aplikacji związanych m.in. z Business Intelligence. Korporacje, agencje rządowe i inne organizacje stosują strategie Big Data w obliczu ogromu informacji, którymi są bombardowane każdego dnia w różnych formatach. Skuteczne przetwarzanie zbiorów danych (w tym nieustrukturyzowanych i pochodzących z różnych źródeł) umożliwia im m.in. zlokalizowanie najbardziej istotnych (z biznesowego punktu widzenia) rekordów.

 

Analiza Big Data wykracza zwykle poza tradycyjne platformy czy programy klasy WMS, wykorzystując technologie umożliwiające pracę na nietransakcyjnych formatach. Powstają w ten sposób nowe architektury i systemy łączące duże zbiory danych.

 

Częścią Big Data Management jest również odpowiednia klasyfikacja. Firmy muszą zdecydować, jakie dane powinny zachować i poddać analizie (np. w celu usprawnienia bieżących procesów biznesowych lub zapewnienia przewagi konkurencyjnej), a których mogą się pozbyć. Dzięki temu cały ten proces przebiegać będzie znacznie szybciej i wydajniej.

 

 

Zarządzanie Big Data – specjalność na studiach

 

Świadome tego, że kluczem do podejmowania trafnych decyzji biznesowych oraz zrozumienia zasad, które rządzą wyborami konsumentów jest właściwa interpretacja dostępnych informacji są także uczelnie. Big Data Developer nie powinien bowiem być jedynym zawodem, który przychodzi na myśl w związku z dużymi wolumenami danych. Wiele uniwersytetów w Polsce dysponuje ciekawą ofertą dla osób, które chciałyby w przyszłości pracować np. na stanowiskach związanych z analityką przemysłową, biznesową, czy gospodarczą.

 

Dla przykładu, UTH w Warszawie proponuje interdyscyplinarne studia licencjackie, których program obejmuje wiedzę z zakresu:

 

  • projektowania i zarządzanie bazami SQL oraz narzędzi IT do realizacji procesów na danych,
  • przetwarzania danych z różnych źródeł (bazy danych, pliki multimedialne i tekstowe, strony www, dane geolokacyjne, dane pochodzące z usług i systemów teleinformatycznych itd.),
  • zagadnień Machine Learning wykorzystywanych podczas analizy danych,
  • projektowania i administrowania systemami komputerowymi służącymi do analizy danych,
  • narzędzi statystycznych oraz przeprowadzania analiz danych w środowisku programistycznym,
  • modelowania i prowadzenia analiz statystycznych danych,
  • infrastruktury i narzędzi umożliwiających zbieranie, przechowywanie i przetwarzanie dużej ilości danych,
  • modelowania procesów gospodarczych.

 

 

Do czego może się przydać w firmie osoba do zarządzania Big Data? Sektory rynku, w których szczególnie przydaje się zarządzanie Big Data

 

Wybór odpowiedniej osoby do współpracy w zakresie Big Data zależeć będzie od specyfiki działalności konkretnej organizacji, jej skali (a więc i wolumenu gromadzonych danych), tempa wzrostu i zapotrzebowania zgłaszanego przez biznes. W przypadku gwałtownie postępującego rozwoju może się okazać, że zwykli analitycy (np. BI) nie wystarczą i konieczne będzie zatrudnienie specjalistów Data Science. Podczas gdy ci pierwsi mają na celu identyfikację określonych zdarzeń, które miały miejsce w przeszłości i zaproponowanie rozwiązań problemów, drudzy będą badać powód danego stanu rzeczy i próbować przewidywać, co się dopiero wydarzy (a czasem i temu zapobiec).

 

Data Scientist to dosyć nowy zawód, który powstał w odpowiedzi na potrzeby rynku i rosnące znaczenie Big Data, będące szczególnie widoczne w przedsiębiorstwach produkcyjnych, firmach telekomunikacyjnych oraz ubezpieczeniowych, bankach, administracji publicznej, zaawansowanych centrach badawczych, branży marketingowej, farmaceutycznej czy e-commerce. Zajmuje się on zarówno analizą danych, jak i statystyką oraz informatyką. Posiada kompetencje miękkie na wysokim poziomie oraz dysponuje takim zrozumieniem biznesu, które pozwala mu na trafne diagnozowanie problemów i identyfikowanie potrzeb. Podejmuje też działania, które mają przełożyć się na realne korzyści dla organizacji, które znajdą odzwierciedlenie w konkretnych liczbach. Innymi słowy, ma on zadbać o efektywne zmonetyzowanie wartości drzemiącej w danych.

 

 

Główne wyzwania związane z zarządzaniem Big Data

 

Przetwarzanie i zarządzanie Big Data nie należy jednak do najłatwiejszych zadań. Objętość, różnorodność i tempo aktualizacji to tylko niektóre z utrudnień. Do pozostałych wyzwań należą:

 

  • skala wolumenów, która zwykle stoi na przeszkodzie efektywnego zarządzania danymi,
  • rozproszenie danych na różnych platformach przetwarzania i w repozytoriach pamięci masowej,
  • brak konsekwencji we wprowadzaniu czy formatowaniu danych, co powoduje problemy związane z jakością, takie jak błędy, rozbieżności czy zduplikowane wpisy,
  • integracje zbiorów danych, które często pochodzą z różnych źródeł (również zewnętrznych), wobec czego konieczne jest wyjście poza metodę ETL (Extract, Transform, Load), czyli wyodrębnianie, przekształcanie i ładowanie,
  • przygotowanie danych na potrzeby analizy, które jest czasochłonne ponieważ często wymaga konsolidowania, filtrowania, porządkowania i weryfikacji pod kątem poszczególnych aplikacji,
  • zapewnienie odpowiedniej skalowalności systemów Big Data, która dostarczy wymaganą wydajność przetwarzania bez niepotrzebnych kosztów dla firmy,
  • obecność nieustrukturyzowanych lub jedynie częściowo ustrukturyzowanych danych,
  • nadzór nad danymi wrażliwymi.

 

 

Technologie związane z zarządzaniem Big Data

 

Na rynku dostępna jest szeroka gama platform i narzędzi do zarządzania Big Data. Wiele z nich występuje również w wersji open source. Lista technologii Big data, które często można wdrażać równolegle, obejmuje m.in.:

 

  • systemy rozproszonego przechowywania i przetwarzania typu Hadoop i Spark,
  • silniki przetwarzania strumieni danych,
  • usługi przechowywania obiektów w Chmurze,
  • oprogramowania do zarządzania klastrami,
  • bazy danych NoSQL,
  • platformy hurtowni danych,
  • rozwiązania klasy Data Lake,
  • silniki do zapytań SQL.

 

Aby umożliwić łatwiejszą skalowalność i większą elastyczność, wdrożenia związane z dużymi zbiorami danych są coraz częściej realizowane w Chmurze, gdzie firmy mogą konfigurować własne systemy lub korzystać z ofert przygotowanych przez dostawców oraz zewnętrznych konsultantów. Wśród liderów w tym zakresie wymienić należy oczywiście AWS, Google i Microsoft Azure, a także Clouderę i Databricks.

 

Masz pytania odnośnie Big Data? Napisz!