DevOps-bootcamp · leksjon

Sortering og deduplisering av data (sort, uniq, cut)

Gjør råtekst om til rene, sorterte data. Lær å sortere linjer, fjerne duplikater med uniq og hente ut kolonner med cut, og deretter kjede dem sammen i pipelines.

Leksjon 4 av 413 trinn

Sortering og deduplisering av data (sort, uniq, cut) er en gratis leksjon i DevOps-bootcamp på CoddyKit. Dette er leksjon 4 av 4. Du kan lese valgfritt 3 leksjoner fra denne læringsstien gratis i sin helhet – deretter låser CoddyKit PRO opp alle leksjoner, samt praktisk øving med en innebygd kodeeditor og en AI-veileder som er tilgjengelig døgnet rundt. Den er en del av læringsløpet i DevOps-bootcamp, og fremdriften din synkroniseres mellom nettet og CoddyKit-appen. Kurset i DevOps-bootcamp inneholder totalt 4 leksjoner.

Bearbeide tekstdata

Loggfiler og CSV-filer er bare tekstlinjer. Tre klassiske verktøy bearbeider dem: sort sorterer linjer, uniq fjerner duplikater, og cut trekker ut kolonner.

Grunnleggende sortering

sort sorterer linjer alfabetisk som standard og skriver ut resultatet.

sort names.txt

Numerisk sortering

Vanlig sortering behandler tall som tekst (10 kommer før 2). Bruk -n for ekte numerisk rekkefølge og -r for å snu rekkefølgen.

sort -n sizes.txt
sort -nr sizes.txt   # largest first

Sortere etter et felt

Bruk -k for å sortere etter en bestemt kolonne og -t for å angi skilletegnet.

sort -t: -k3 -n /etc/passwd   # by UID

Fjerne duplikater med uniq

uniq slår sammen tilstøtende dupliserte linjer. Det fungerer bare med sorterte inndata, så det brukes nesten alltid sammen med sort.

sort access.log | uniq

Telle forekomster

uniq -c setter antallet forekomster foran hver linje – perfekt for frekvensanalyse.

sort ips.txt | uniq -c

Finne de vanligste elementene

Kombiner sort, uniq -c og en ny sortering for å rangere elementer etter frekvens – en rapport over de «øverste N» på én linje.

sort ips.txt | uniq -c | sort -nr | head -5

Trekke ut kolonner med cut

cut henter felt fra hver linje. Bruk -d for skilletegnet og -f for feltnumrene.

cut -d, -f1,3 data.csv   # 1st and 3rd columns

Klippe etter tegn

cut -c trekker ut tegnintervaller etter posisjon, noe som er nyttig for data med fast bredde.

cut -c1-8 dates.txt   # first 8 chars

Unike kontra dupliserte linjer

uniq -d viser bare linjer som gjentas, mens uniq -u bare viser linjer som forekommer nøyaktig én gang.

sort orders.txt | uniq -d   # repeated only

Bygge en pipeline

Den virkelige styrken ligger i å kjede kommandoer: Trekk ut en kolonne, sorter den, og tell deretter unike verdier for å oppsummere et datasett med én kommando.

cut -d, -f2 sales.csv | sort | uniq -c | sort -nr

Hurtigsjekk

Test forståelsen din.

Oppsummering

Du har lært å bearbeide data med sort (alfabetisk, numerisk med -n, etter felt med -k), uniq (fjerne tilstøtende duplikater, telle med -c, -d/-u) og cut (felt med -d/-f, tegn med -c) – satt sammen til kraftige pipelines.

Gratis å komme i gang

Lær deg DevOps-bootcamp med en AI-veileder – gratis

Skriv og kjør ekte kode i nettleseren, få umiddelbar hjelp fra en AI-veileder som er tilgjengelig døgnet rundt, og fortsett der du slapp – på nettet eller i appen.

Kurs
142
Leksjoner
568

Ofte stilte spørsmål

Er leksjonen «Sortering og deduplisering av data (sort, uniq, cut)» gratis?

Ja – du kan lese valgfritt 3 av leksjonene i læringsstien DevOps-bootcamp, inkludert «Sortering og deduplisering av data (sort, uniq, cut)», gratis i sin helhet her på nettet. Deretter låser CoddyKit PRO opp alle leksjoner, samt interaktiv øving med en innebygd kodeeditor og en AI-veileder som er tilgjengelig døgnet rundt. Kurset i DevOps-bootcamp inneholder totalt 4 leksjoner.

Hva lærer jeg i «Sortering og deduplisering av data (sort, uniq, cut)»?

Gjør råtekst om til rene, sorterte data. Lær å sortere linjer, fjerne duplikater med uniq og hente ut kolonner med cut, og deretter kjede dem sammen i pipelines. Du øver på DevOps-bootcamp med praktisk kode som du kjører direkte i nettleseren, mens en AI-veileder som er tilgjengelig døgnet rundt, svarer på spørsmålene dine mens du jobber deg gjennom leksjonen.

Trenger jeg erfaring for å begynne med DevOps-bootcamp?

Ingen tidligere erfaring er nødvendig. DevOps-bootcamp på CoddyKit er lagt opp for både nybegynnere og viderekomne, så De kan begynne her eller helt fra start og lære i Deres eget tempo. Dette er leksjon 4 av 4.

Hvor lang tid tar leksjonen «Sortering og deduplisering av data (sort, uniq, cut)»?

De fleste CoddyKit-leksjoner tar omtrent 5–10 minutter. Hver leksjon er kort og interaktiv, slik at De gjør jevne fremskritt og kan fortsette akkurat der De slapp – både på nettet og i appen.

Kan jeg skrive og kjøre kode i denne DevOps-bootcamp-leksjonen?

Ja. Alle DevOps-bootcamp-leksjoner har en innebygd kodeeditor, slik at De kan skrive og kjøre ekte kode direkte i nettleseren og få umiddelbar tilbakemelding fra AI – uten lokal konfigurering.

Alle leksjonene i dette kurset

  1. Avansert tekstbehandling (sed, awk)
  2. Arkivering og komprimering (tar, gzip, unzip)
  3. Diskbruk og systeminformasjon (df, du, uname)
  4. Sortering og deduplisering av data (sort, uniq, cut)
← Tilbake til DevOps-bootcamp