Freitag, 27. Mai 2011

Schwarze Schafe automatisiert finden

Ich stand vor kurzer Zeit vor dem Problem, wie man schnell voneinander abgeschriebenen Text in Protokollen finden kann. Die Protokolle wurden alle im Word-Format abgegeben. Dafür gibt es ein paar nette Helfer, die ich hier vorstellen möchte:
  1. Antiword wandelt .doc in einfache Textdateien um
  2. cat_open_xml.pl ist ein Perl-Skript für die gleiche Aufgabe bei .docx
  3. Das Paket similarity-tester kann sehr einfach Textfiles vergleichen
Und hier ein kleines Skript zur Automatisierung. Es geht davon aus, dass das Perl-Skript und die Word-Dateien im gleichen Verzeichnis liegen. Namensähnlichkeiten zum Tagesgeschehen sind natürlich nur Zufall.
#!/bin/bash
#Das Gutti-Skript: Wir finden Duplikate

#Aufräumen
rm *.txt

#Störende Leerzeichen entfernen
for i in *\ *
        do mv "$i" "${i// /_}"
done

#.doc umwandeln
for i in *.doc
        do antiword $i >& $i.txt
done

#.docx umwandeln
for i in *.docx
        do ./cat_open_xml.pl $i >& $i.txt
done

#Texte vergleichen und nach Ähnlichkeit in Prozent auflisten
sim_text -e -s -p -T *.txt
Natürlich muss man Treffer noch manuell nachkontrollieren.

User Status

Du bist nicht angemeldet.

Suche

 

Aktuelle Beiträge

VDR 1.7 auf Dockstar
weiss jemand wie man die abhängigkeit lösen kann vdr-plugin-xinelibout put...
karsten (Gast) - 16. Apr, 10:20
Umzug
Nach ganzen sechs Jahren ist hier nun Schluss und der...
Barahir - 3. Jan, 21:11
Ich hab versucht das...
Ich hab versucht das Verzeichnis anzupassen, das hat...
Barahir - 15. Nov, 13:22

Charts Lieblingskünstler - Diese Woche

RSS Box

Das Manifest des Web 4.
Torsten - 20. Jan, 20:45
Ein Klick mehr
Frei nach Archimedes: Gib mir einen Klick mehr, und...
Torsten - 13. Aug, 10:30
Nerd ist…
…wenn deine Wohnung von Steckdosenleistenschalterl ichtern...
Torsten - 12. Mai, 14:38
Die Instant-Messenger-Rekursio n
Wenn WhatsApp behauptet, das Klopapier sei ausverkauft,...
Torsten - 15. Mär, 13:03
Nerd ist…
… social distancing like a pro.
Torsten - 10. Mär, 19:16
Bluetooth-Ethik
„Ich — in der Hölle? Warum? Ich bin Ingenieur!“ „Ein...
Torsten - 26. Aug, 10:15
Weltkulturerbe Diskette
Wir sollten die Diskette zum UNO-Weltkulturerbe machen....
Torsten - 12. Aug, 09:33
Cloud – Deutsch: Jetzt lesen
Fürs Wörterbuch Cloud – Deutsch: „Jetzt...
Torsten - 22. Jul, 09:16
Cloud – Deutsch: Kontakte
Fürs Wörterbuch Cloud – Deutsch: „Wirf...
Torsten - 21. Jul, 14:09
KI 2.0
2025 stellten die Forscher ihre Forschungen zur Künstlichen...
Torsten - 3. Dez, 08:39

Status

Online seit 6594 Tagen
Zuletzt aktualisiert: 16. Apr, 10:20