[19:47] <Jesper> Hei
[19:54] <RoyK> heihei
[19:54] <RoyK> trur Malinux står på huet inni en server :)
[19:55] <Jesper> Hehe, har plugga 2 av diskene rett inn i hovedkortet nå
[19:55] <Jesper> Kjørte mdadm --examine, ser ingen forskjell fra sas controller, og hovedkort
[19:56] <RoyK> ikke bra
[19:56] <RoyK> kan du dobbeltsjekke biosen på raidkontrolleren? se om det står til jbod?
[19:58] <Malinux> hei Jesper
[19:58] <Jesper> Det kan jeg gjøre
[19:58] <Jesper> Hei
[19:58] <Malinux> jeg står med hodet inni en server :p
[19:58] <Malinux> men håper jeg snart er ferdig med det
[20:00] <RoyK> noen har elefanthode, vannhode osv, Malinux har serverhue :D
[20:00] <Malinux> RoyK: ja, så jeg fordeler jobbene på alle demonene mine
[20:03] <Jesper> Alle diskene står som JBOD i raidcontroller bios
[20:07] <RoyK> ok
[20:07] <RoyK> merkelig at ikke mdadm finner noe, da
[20:08] <Jesper> Ja, er liksom ikke noe tegn på at raidet har eksistert bortsett fra mdadm.conf
[20:08] <Jesper> Kan vel nesten bare være raid controlleren som har gjort noe rart?
[20:09] <RoyK> virker sånn
[20:09] <RoyK> så da er det egentlig bare én mulighet igjen, å lage raidet på nytt med samme rekkefølge av disker og --assume-clean
[20:09] <RoyK> og så be til nærmeste gud
[20:10] <Jesper> ja
[20:10] <RoyK> hvor mange spares hadde du? Malinux sa noe om to
[20:10] <Jesper> 2 ja
[20:11] <RoyK> det er nok ikke nødvendig med to spares med raid-6
[20:11] <RoyK> men greit hvis du har noia :)
[20:12] <Jesper> Kjekt å ha :P
[20:12] <Jesper> Er ikke så dyrt med disker
[20:12] <Jesper> Hjalp lite i dette tilfelle da
[20:13] <RoyK> ja
[20:13] <RoyK> backup er kjekt
[20:13] <RoyK> raid er ikke backup
[20:13] <Jesper> Hadde planer om å få meg cloud backup
[20:14] <Jesper> Kom bare aldri så langt
[20:14] <RoyK> vi driver og stifter ei forening for datalagring for å slippe skyløsninger
[20:15] <RoyK> kommer nok tilbake med mer når vi har detaljer
[20:16] <Jesper> Får håpe det blir noe ut av det da
[20:16] <Jesper> Hørtes ikke dumt ut
[20:16] <RoyK> det er i gang
[20:17] <RoyK> Malinux står på hue i den serveren nå
[20:17] <Jesper> Hehe
[20:17] <RoyK> det blir ekte godt, gammeldags spleiselag, men registrert forening med regnskap og alt - dama er revisor
[20:17] <RoyK> altså kjæresten min, mia, ikke Malinux
[20:18] <Jesper> Blir sikkert bra dety
[20:18] <Jesper> det*
[20:18] <RoyK> mhm - trur det
[20:19] <Jesper> Finnes ikke noe logger som gir meg rekkefølga på diskene da?
[20:20] <Jesper> Tenkte i forhold til id på disker og bokstavene de har.
[20:20] <RoyK> problemet er også at enhetsnavna kan endres ved omstart
[20:23] <Jesper> Tenkte på id til disken, siden den holder seg vel?
[20:23] <Jesper> Altså "disk identifier"
[20:26] <RoyK> det under /dev/disk/by-id/ holder seg konstant
[20:26] <RoyK> mens sd[abcde] etc kan variere utfra hva som oppdages først under oppstart
[20:26] <RoyK> det varierer mellom kontrollere
[20:27] <RoyK> husker du hvordan du laga raidet? tok du de første 11 i raidet og de siste to som spare?
[20:27] <RoyK> i så fall kan vi jo prøve for å se om det funker
[20:28] <Jesper> Regner med det ble de første 11 ja
[20:29] <Jesper> Er jo vært ett forsøk. Er jo ikke fullstendig krise om det skulle skjære seg
[20:29] <RoyK> gå inn som root og kjør tmux a
[20:30] <RoyK> dvs logg inn som root eller som deg sjøl og så kjør sudo -i og så tmux a
[20:32] <RoyK> husker du om du laga partisjoner først og så la raidet på dem eller om du la raidet på diskene direkte?
[20:33] <Jesper> Direkte
[20:33] <Jesper> Noe iscsi ellerno?
[20:33]  * AndyOslo har stort behov for å restarte routeren\mediakonverteren eller hva det kalles den som får inn fiber i ene enden, og coax til tv og rj-45 til internett
[20:34] <RoyK> iscsi?
[20:34] <RoyK> det er scsi over TCP
[20:34] <RoyK> disse er vel kobla direkte på SAS/SATA?
[20:35] <Jesper> Glem det
[20:35] <Jesper> Raida direkte hvertfall
[20:39] <RoyK> prøve å rekreere raidet?
[20:39] <Jesper> Kjør på
[20:47] <RoyK> eh
[20:47] <RoyK> level=raid0
[20:47] <RoyK> ser jeg på den der
[20:51] <RoyK> game over for det raidet der
[20:51] <Malinux> men det står også devices=0
[20:51] <Malinux> så tviler på at det er reelt
[20:52] <Jesper> Lurer på hva som har skjedd, det sto det har vært raid 0 på diskene?
[20:52] <RoyK> ja
[20:52] <RoyK> virker rart
[20:52] <RoyK> men foreslår at du lager et nytt raid-6 med én spare
[20:52] <RoyK> du har jo dobbel paritet i r6 uansett
[20:53] <RoyK> og så legger du lvm på toppen av det
[20:53] <Jesper> Ja, blir nok til det
[20:54] <Jesper> Men, kan det være raid kontrolleren som har fått til å lage raid 0?
[20:54] <Jesper> Virker veldig merkelig
[20:55] <Jesper> Er liksom litt skeptisk på å fortsette å bruke den.
[20:55] <Jesper> Har ikke peng til noe ny kontroller akkurat nå
[20:57] <RoyK> kan jo bare slenge opp et nytt raid der nå
[20:57] <RoyK> dataene er nok borte
[20:58] <Jesper> Joda, men vil dette kunne skje igjen?
[20:58] <Jesper> Er litt skummelt å ikke finne årsaken
[20:58] <RoyK> aner ikke
[20:58] <RoyK> virkelig
[20:59] <RoyK> men anbefaler en LSI9201 eller tilsvarende neste gang
[20:59] <RoyK> enkel HBA-sak som er rask og fin, støtter vel raid-1 og 1+0 og 0, men funker best med software-raid
[20:59] <RoyK> har brukt dem i rimelig store systemer på noen hundre tera
[21:00] <RoyK> og fås billig på ebukta
[21:00] <Jesper> Får man den med 24porter?
[21:00] <Jesper> Altså 6 sas porter
[21:00] <AndyOslo> Er vell noe sånt jeg vurderer hvis jeg skal utvide raidet mitt
[21:02] <RoyK> Jesper: nei, men du kan kombinere den med en sas-expander
[21:02] <RoyK> Jesper: dvs to, så du kan få opptil 48 porter
[21:03] <RoyK> du finner lsi3081-greier der også, men ikke kjøp dem, de støtter ikke >2TB
[21:03] <Jesper> Ja ok
[21:03] <RoyK> Jesper: men snekre nytt raid med lvm oppå? tmux?
[21:04] <Jesper> Hadde vært fint
[21:06] <RoyK> ok, kom inn i tmuxen igjen
[21:06] <Jesper> Er her
[21:21] <RoyK> Jesper: du har 25TiB ledig under /data
[21:22] <Jesper> Nice
[21:22] <Jesper> Bare å få fylt opp igjen da :P
[21:26] <RoyK> Jesper: hva var det du hadde liggende der?
[21:26] <Jesper> Er en media server
[21:27] <Jesper> Hadde filmer og serier som jeg streamer via Plex
[21:27] <RoyK> ok
[21:27] <RoyK> hvor mye hadde du?
[21:27] <Jesper> 15tb
[21:28] <RoyK> og - forresten - kan vi gjøre et forsøk? kopiere inn litt søppel og ta ned maskina - nappe ut raidkontrolleren og sette en inn igjen etter noen minutter og se om ting oppfører seg
[21:28] <RoyK> bedre å gjøre det nå enn etter at du har brukt noen uker på å fylle opp skiten
[21:28] <Jesper> Det er sikkert veldig lurt
[21:28] <Jesper> Det kan vi gjøre
[21:29]  * RoyK har bare jobba med linux og sånt i 25 år, men litt har han lært
[21:29] <RoyK> 23 år, faktisk,
[21:29] <Jesper> hehe
[21:30] <Malinux> ikke lenger?
[21:31] <RoyK> hehe
[21:31] <Jesper> Jobba med linux siden før jeg var født da, er 20 jeg :P
[21:32] <RoyK> hihi
[21:32] <RoyK> vi begynner alle et sted
[21:32] <AndyOslo> Hehe, jeg installerte Linux for første gang for ca. 20 år siden
[21:32] <RoyK> rimelig fett raid for en 20-åring, da
[21:33] <Jesper> Blir fort sånn når man er glad i data
[21:33] <Jesper> Fant servern til 5000 på finn
[21:34] <Jesper> Har nå oppgradert alt i den da
[21:34] <Malinux> kult :)
[21:34] <Jesper> Men, fortsatt billig for rack kabinett med 24 plasser :P
[21:35] <Malinux> jeg starta med linux etter jeg blei født, men første gang jeg så linux, ble jeg visst skuffa. hæ, det ligner jo på DOS, hvordan kan det være noe bra da da?! tenkte jeg :p
[21:37] <Jesper> Hehe
[21:37] <Jesper> Skulle ønske jeg starta med DOS
[21:37] <Malinux> hehe, jeg var litt for opphengt i GUI og sånt
[21:37] <Jesper> Hadde nok vært letter å gå fra DOS til linux enn Windows Server 2012 til linux :P
[21:38] <Malinux> men var ikke uvanlig å avslutte windows for å starte opp dosspill direkte i dos. windows tar jo litt mye  minne, etc
[21:38] <Malinux> tja
[21:39] <RoyK> Jesper: at jeg har jobba med linux lenge, betyr ikke at jeg nødvendigvis veit alt - nye ting kommer stadig - unge lærer raskere enn oss gæmliser ;)
[21:39] <Malinux> og noen tar ting raskere osv
[21:40] <AndyOslo> Men det beste er jo at stadig flere får øynene opp for Linux
[21:41] <RoyK> Jesper: men tar du ned boksen og plugger ut litt for å herje litt med den?
[21:42] <Jesper> Ja
[21:42] <RoyK> Jesper: hvis du planlegger å kjøre opp vm-er på den der, så anbefaler jeg å slenge til en ssd eller to for caching
[21:44] <Jesper> Blir nok kun mediaserver
[21:44] <Jesper> Grunnen til kraftige CPUer er 4k streaming :P
[21:44] <RoyK> evt strømming ;)
[21:44] <RoyK> bruker du plex?
[21:44] <Jesper> Ja
[21:45] <RoyK> bruker stort sett webdav sjøl
[21:45] <RoyK> for å gjøre det enkelt
[21:51] <Jesper> Booter igjen nå
[21:54] <RoyK> hva slags server er det? supermicro eller noe?
[21:56] <Jesper> RPC-4224 kabinett, ASUS Z10PA-D8, 2x Intel Xeon E5-2620 V4
[21:57] <Jesper> "Welcome to emergency mode" Hva er dette?
[21:57] <RoyK> hm - kanskje den ikke klarte å montere opp ting?
[21:57] <RoyK> logg inn som root
[21:58] <RoyK> sjekk /proc/mdstat
[21:58] <RoyK> og kjør pvs, vgs og lvs for å se m du finner noe
[21:59] <RoyK> mount og/eller df vil vise hva som er montert - sistnevnte er litt lettere å tolke
[22:00] <RoyK> Jesper: det er uansett bedre om det skjer feil nå enn om tre måneder når du har fylt opp diskene :þ
[22:02] <Jesper> Ja, den er ikke montert
[22:03] <RoyK> er vg-en synlig? md?
[22:03] <RoyK> er det noe i /proc/mdstat?
[22:03] <Jesper> Nei
[22:03] <RoyK> mdadm --assemble --scan
[22:03] <RoyK> funker dét?
[22:04] <Jesper> Ser ikke slik ut
[22:04] <Jesper> Den dukka ikke opp i /proc/mdstat hvertfall
[22:05] <RoyK> hm
[22:06] <RoyK> ok - rediger /etc/fstab - stapp en # foran den om /data
[22:06] <RoyK> så bør den komme opp uten problemer
[22:06] <RoyK> så kan vi andre komme inn og se på det
[22:08] <Jesper> Også reboot for å komme ut av emergency mode da?
[22:08] <RoyK> ja, bare ta en omstart
[22:09] <RoyK> evt bare skriv "exit"
[22:09] <RoyK> men greit å se om den kommer opp fra en omstart også
[22:09] <Jesper> Starter opp nå
[22:09] <Jesper> Tar litt lenger tid å boote den enn spillPCen min :P
[22:10] <RoyK> servere er treige i oppstarten
[22:10] <RoyK> det er vanlig
[22:11] <Jesper> Skjekker vel ting litt grundigere der
[22:12] <Jesper> Der er den oppe igjen
[22:12] <RoyK> åpna en tmux
[22:13] <Jesper> Jeg er inne
[22:13] <RoyK> trur den kontrolleren din er på syre eller noe
[22:15] <Jesper> Har kjørt fint på gamle hovedkortet lenge
[22:15] <Jesper> Mulig den ikke er kompatibel med nye hovedkortet?
[22:16] <RoyK> bare virker jævlig rart at jeg ikke finner noe om raidet på diskene
[22:16] <RoyK> har aldri sett noe sånt
[22:17] <Jesper> Merkelig
[22:17] <RoyK> sjøl en manuell assemble funker ikke
[22:17] <RoyK> det har jeg heller ikke sett
[22:18] <RoyK> skaff deg en ny kontroller
[22:18] <RoyK> og kanskje en sas expander
[22:18] <RoyK> du får lsi92xx med fire sas-porter på ebukta ganske billig
[22:19] <RoyK> dvs 16 lanes
[22:19] <Jesper> Kan det være noe kryptering eller noe sånt?
[22:19] <RoyK> og du får sas-expandere med 4 til 24 lanes billig
[22:19] <RoyK> nei
[22:19] <Jesper> Må nok kjøpe en sånn
[22:19] <RoyK> et kort med to sas-porter og en sas-expander holder nok
[22:20] <RoyK> bare pass på at du kjøper med riktig kabel
[22:20] <RoyK> de fleste sas-expandere tar sas fra utsida, så da trenger du en sas-kontroller som har ekstern plugg
[22:22] <Jesper> Trenger hvertfall total 6 sas innganger, da det går i sas hele veien fram til diskene
[22:22] <RoyK> diskene er vel SATA?
[22:22] <RoyK> så sånn ut på smart-dataene
[22:23] <Jesper> Joda
[22:23] <Jesper> Men de blir plugga rett i ett kort back
[22:23] <Jesper> bak*
[22:23] <Jesper> Som bruker sas
[22:24] <Jesper> Så jeg bruker ikke kabler til diskene
[22:24] <RoyK> har du mange pci-e 8x-plasser?
[22:24] <Jesper> Ja
[22:26] <RoyK> https://www.ebay.com/sch/i.html?_from=R40&_trksid=p5197.m570.l1313&_nkw=lsi%209201&=&_sacat=See-All-Categories
[22:26] <RoyK> kan jo bare finne noe som passer
[22:28] <RoyK> https://www.ebay.com/itm/Brand-New-IT-Mode-LSI-9211-8i-SAS-SATA-8-port-PCI-E-Card-Bulk-pack/252996267204?hash=item3ae7c0acc4:g:0mkAAOSwiQ9ZRN9P
[22:28] <RoyK> den her er nok bankers
[22:28] <RoyK> kjøp noen av dem
[22:28] <RoyK> evt en med eksterne porter og en expander
[22:28] <Malinux> det chipsettet der er nice
[22:28] <RoyK> med såpass treige disker som det du har, trenger du ikke full pupp på sas
[22:29] <Jesper> Så jeg trenger da en sas expander med 2 eksterne porter, og 6 interne?
[22:30] <Jesper> Evnt finne noe som er helt internt
[22:30] <RoyK> https://www.ebay.com/itm/LSI-SAS9201-16e-6Gbs-PCIe2-x8-16-Port-SAS-Controller-HBA-Host-Bus-Adapter/372113488738?epid=1301621744&hash=item56a3b13b62:g:EBkAAOSwbwJZ7dWi
[22:31] <RoyK> https://www.ebay.com/itm/New-HP-24-Bay-PCI-e-SAS-Expander-Card-468405-001-487738-001/262633260835?epid=4004251738&hash=item3d26298723:g:RE4AAOSwdzVXvHQA
[22:31] <RoyK> f.eks.
[22:31] <RoyK> førstnevnte har 4xSAS
[22:31] <RoyK> sistnevnte tar 1xSAS og utvider til 8xSAS
[22:31] <RoyK> som en svitsj
[22:32] <RoyK> 24 treige disker funker fint på fire SAS-lanes
[22:35] <Jesper> Ja, da blir det litt handling til neste lønning :P
[22:36] <RoyK> forresten - vi snakker en del sammen om et "datalagringslaug" (nynorsk er fint :D )
[22:36] <RoyK> og kanskje litt ceph eller noe for å distribuere data sånn at man kan samarbeide med en slags distribuert backup
[22:36] <RoyK> vi har ikke stifta noe ennå, men det skjer snart
[22:37] <RoyK> hadde jo vært gøy å slippe unna de store skyløsningene og heller gjøre det sjøl, sikkert, anonymt osv
[22:38] <RoyK> dvs helt anonymt er det jo vanskelig å få ting
[22:38] <RoyK> men så sikkert som mulig
[22:40] <Jesper> Høres ikke dumt ut
[22:40] <RoyK> tanken er den gamle "gi etter evne, ta etter behov" - så kan vi lagre data billig og sikkert
[22:40] <RoyK> og jada - det er et gammelt sosialistisk slagord, men vi er jo sosialister ;)
[22:43] <Jesper> Ja, men da er det natta
[22:43] <Jesper> Takker for meget god hjelp, og dere hører sikkert fra meg siden
[22:43] <Malinux> det hadde vært hyggelig :)
[22:43] <Jesper> En donasjon er også på sin plass, men det blir heller ikke før lønning :P
[22:44] <Malinux> :)
[22:46] <RoyK> Jesper: du kan jo bli med i "lauget"