Erinevus lehekülje "LizardFS" redaktsioonide vahel

Allikas: Kuutõrvaja
1. rida: 1. rida:
 
LizardFS on MooseFSi fork, mis tekkis peale Moose kommertsiks minemist. Arendatud on mõlemad tarkvarad Poolas. Üldiselt on tegemist vägagi sarnaste tarkvaradega. Hetkeseisuga tundus peamine erinevus olevas selles, et LizardFSil toimis koormuse jagamise algoritm paremini. Samas suutis MooseFS jällegi automaatselt ümberlülitada metadata serverite Master-Slave olekuid.
 
LizardFS on MooseFSi fork, mis tekkis peale Moose kommertsiks minemist. Arendatud on mõlemad tarkvarad Poolas. Üldiselt on tegemist vägagi sarnaste tarkvaradega. Hetkeseisuga tundus peamine erinevus olevas selles, et LizardFSil toimis koormuse jagamise algoritm paremini. Samas suutis MooseFS jällegi automaatselt ümberlülitada metadata serverite Master-Slave olekuid.
  
Põhimõtteliselt koosneb LisardFS kahest komponendist: Metadata ja chunk server. Metadata hoiab endas inodesid kaustasid jms. Korraga saab seejuures olla vaid üks metadata server master seisus, aga ta saab omada tervet hulka slave servereid mis temalt infot sünkroniseerivad. Lisaks on olemas metadata logger ja tekkinud logist saab omakorda teha masteri (Logimine ise ei mõjuta jõudlust). Chunk serveris asuvad kõvakettad kuhu paigaldatakse andmed.
+
Põhimõtteliselt koosneb LisardFS kahest suurest komponendist: Metadata ja chunk server. Metadata hoiab endas inodesid kaustasid jms. Korraga saab seejuures olla vaid üks metadata server master seisus, aga ta saab omada tervet hulka slave servereid mis temalt infot sünkroniseerivad. Metadata servereid on lisaks kahte sorti, master ja shadow master, viimaseid võib olla mitu. Kolmas asi on metalogger (mille logidest on võimalik samuti taastada metada serverit). Chunk server on oma ülesehituselt primitiivsem sisaldades vaid deemonit ja kõvakettaid kuhu paigaldatakse reaalsed andmeblokid.
  
 
Olles startinud ühe metadata serveri saab kliendis juba failisüsteemi külge haakida ja sinna nii faile kui kaustu tekitada, ainult failid ei saa enne
 
Olles startinud ühe metadata serveri saab kliendis juba failisüsteemi külge haakida ja sinna nii faile kui kaustu tekitada, ainult failid ei saa enne
22. rida: 22. rida:
 
  make install
 
  make install
  
Paigaldame loodud paketi, ja tekitame grupi ning kasutaja
+
Tekitame grupi ning kasutaja
  
 
  tar xfv /root/lizardfs.tbz
 
  tar xfv /root/lizardfs.tbz
58. rida: 58. rida:
 
  mfscgiserv
 
  mfscgiserv
  
Tegemist on veebiliidesega, milleni pääseb http://localhost:8000/ urliga ning kus näeb LizardFS hetkeseisu graafikuid, statistikaid jms.
+
Tegemist on veebiliidesega, milleni pääseb http://mfsmaster/ urliga ning kus näeb LizardFS hetkeseisu graafikuid, statistikaid jms.
  
 
'''Data nodede(de) paigaldus'''  
 
'''Data nodede(de) paigaldus'''  
80. rida: 80. rida:
 
Koopiate määramiseks on utiliit mfssetgoal, näiteks
 
Koopiate määramiseks on utiliit mfssetgoal, näiteks
  
  # mfssegoal 2 /mnt
+
  # mfssetgoal 2 /srv
  
 
või
 
või
  
  # mfssetgoal 2 /mnt/fail/suva
+
  # mfssetgoal 2 /srv/fail/suva
  
 
Uus replikatsioonide poliitika hakkab kehtima seejuures ainult uutele tekitatavatele failidele. Vanad failid jäävad varasema tasemega.
 
Uus replikatsioonide poliitika hakkab kehtima seejuures ainult uutele tekitatavatele failidele. Vanad failid jäävad varasema tasemega.
96. rida: 96. rida:
 
Käsk ise võiks olla selline
 
Käsk ise võiks olla selline
  
  # taskset 80 mfsmount /srv
+
  # taskset 01 mfsmount /srv

Redaktsioon: 15. jaanuar 2015, kell 15:44

LizardFS on MooseFSi fork, mis tekkis peale Moose kommertsiks minemist. Arendatud on mõlemad tarkvarad Poolas. Üldiselt on tegemist vägagi sarnaste tarkvaradega. Hetkeseisuga tundus peamine erinevus olevas selles, et LizardFSil toimis koormuse jagamise algoritm paremini. Samas suutis MooseFS jällegi automaatselt ümberlülitada metadata serverite Master-Slave olekuid.

Põhimõtteliselt koosneb LisardFS kahest suurest komponendist: Metadata ja chunk server. Metadata hoiab endas inodesid kaustasid jms. Korraga saab seejuures olla vaid üks metadata server master seisus, aga ta saab omada tervet hulka slave servereid mis temalt infot sünkroniseerivad. Metadata servereid on lisaks kahte sorti, master ja shadow master, viimaseid võib olla mitu. Kolmas asi on metalogger (mille logidest on võimalik samuti taastada metada serverit). Chunk server on oma ülesehituselt primitiivsem sisaldades vaid deemonit ja kõvakettaid kuhu paigaldatakse reaalsed andmeblokid.

Olles startinud ühe metadata serveri saab kliendis juba failisüsteemi külge haakida ja sinna nii faile kui kaustu tekitada, ainult failid ei saa enne chunk serverite külgehaakimist olla suuremad kui 0 baidi pikkusega.

Failisüsteem ise on mounditav üle fuse. Poole failisüsteemis pole aga küll saab faili-kataloogi baasil määrata replikatsiooni tasemeid ning üle fuse saab külge haakida ka alamkaustu. Failisüsteemis on olemas na nn "prügikast" ehk ühtegi faili ei kustutata kohe vaid esmalt märgitakse see metadata serveris ära ning kustutatakse teatud invervalliga. Lisaks on võimalik teha snapshotte ja määrata paroole.

Tasub ilmselt veel ära märkida, et lisaks Linuxile töötab LizardFS ka FreeBSD10 peal.

Paigaldamine

Buildimiseks on vajalik cmake ja kliendi (mfsmount) ehitamiseks ka fuse lib.

tar xf lizardfs-2.5.4.tar.gz
cd lizardfs-2.5.4
./configure
make
make install

Tekitame grupi ning kasutaja

tar xfv /root/lizardfs.tbz
groupadd -g 900 mfs
useradd -g mfs -M -u 900 mfs

Seadistame metadata serveri asukoha (see tuleb teha ka klientmasinas)

echo "10.7.0.1 mfsmaster" >> /etc/hosts

Metadata serveri paigaldus

Nimetame mõned dist konfid ümber, kusjuures vaikekonfid tunduvad minimaalsete täiendamisega igati kasutamiseks sobivat.

cd /etc/mfs
cp mfsexports.cfg.dist mfsexports.cfg
cp mfsmaster.cfg.dist mfsmaster.cfg

Teeme kausta metadata hoiustamiseks, seadistame õigusi jne

mkdir /srv/mfs
cp /var/lib/mfs/metadata.mfs.empty /srv/mfs/metadata.mfs
chown -R mfs:mfs /srv/mfs

Lisame metadata asukohta konfiguratsiooni

echo "DATA_PATH = /srv/mfs" >> mfsmaster.cfg

Käivitame metadata serveri

mfsmaster

Käivitame dashboardi veebiserveri

mfscgiserv

Tegemist on veebiliidesega, milleni pääseb http://mfsmaster/ urliga ning kus näeb LizardFS hetkeseisu graafikuid, statistikaid jms.

Data nodede(de) paigaldus

Esiteks tuleb kõigile nodes asuvatele kettaseadmetele tekitada failisüsteem, kettad külge haakida ning /etc/mfs/mfshdd.cfg konfifaili defineerida mountpoindid. Chunkserveri startimiseks tuleb anda käsk

# mfschunkserver

Klient

Kliendis failisüsteemi haakimiseks tuleb anda käsk

# mfsmount /srv

Juhul kui lizardfs on ehitatud spetsiifilisse kausta tuleb utiliit käivitada täisrajaga

# /root/lizardfs-2.5.4/build-pack/src/mount/fuse/mfsmount /srv

Haldamine

Koopiate määramiseks on utiliit mfssetgoal, näiteks

# mfssetgoal 2 /srv

või

# mfssetgoal 2 /srv/fail/suva

Uus replikatsioonide poliitika hakkab kehtima seejuures ainult uutele tekitatavatele failidele. Vanad failid jäävad varasema tasemega.

Fuse kliendi häälestamine

Fuse kliendi osas, millega failisüsteem külge haagitakse, tundub, et palju aega kulub context switchidele (ehk kernel-userspace vahelisele sõelumisele), mida paistab saab pisut parandada kui kinnistada fuse protsess taskset utiliidi abil kindlale tuumale mistõttu saab fuse kasutada ühe ja sama protsessori cachet ja see tundus testimisel vähendavat üleüldist protsessori koormust ning parandavat jõudlust.

Käsk ise võiks olla selline

# taskset 01 mfsmount /srv