Capítulo 11. Conversão de dados

Índice

11.1. Ferramentas de conversão de dados em texto
11.1.1. Converter um ficheiro de texto com o iconv
11.1.2. Verifica ficheiro se é UTF-8 com o iconv
11.1.3. Converter os nomes dos ficheiros com o iconv
11.1.4. conversão EOL
11.1.5. Conversão de TAB
11.1.6. Editores com auto-conversão
11.1.7. Extracção de texto simples
11.1.8. Destacar e formatar dados de texto simples
11.2. Dados XML
11.2.1. Dicas básicas para XML
11.2.2. Processamento de XML
11.2.3. A extracção de dados de XML
11.2.4. The XML data lint
11.3. Formatação de texto
11.3.1. formatação de texto roff
11.3.2. TeX/LaTeX
11.3.3. Impressão bonita de um manual
11.3.4. Criar um manual
11.4. Dados imprimíveis
11.4.1. Ghostscript
11.4.2. Juntar dois ficheiros PS ou PDF
11.4.3. Utilitários de dados imprimíveis
11.4.4. Imprimir com o CUPS
11.5. A conversão de dados de mail
11.5.1. Noções básicas de dados de mail
11.6. Ferramentas de dados gráficos
11.6.1. Graphic data tools (metapackage)
11.6.2. Graphic data tools (GUI)
11.6.3. Graphic data tools (CLI)
11.7. Conversão de dados variados

São descritas ferramentas e dicas para converter formatos de dados no sistema Debian.

As ferramentas baseadas em standards são muitos boas mas o suporte para formatos proprietários de dados é limitado.

Os seguintes pacotes para a conversão de dados de texto saltaram-me à vista.


[Dica] Dica

iconv(1) é disponibilizado como parte do pacote libc6 e está sempre disponível em praticamente todos os sistemas tipo Unix para converter a codificação de caracteres.

Pode converter a codificação de um ficheiro de texto com o iconv(1) com o seguinte.

$ iconv -f encoding1 -t encoding2 input.txt >output.txt

Os valores de codificação são sensíveis a maiúsculas/minúsculas e ignoram "-" e "_" para correspondência. As codificações suportadas podem ser verificadas pelo comando "iconv -l".

Tabela 11.2. Lista de valores de codificação e a utilização deles

valor de codificação utilização
ASCII American Standard Code for Information Interchange, código de 7 bits sem caracteres acentuados
UTF-8 standard multilingue atual para todos os sistemas operativos modernos
ISO-8859-1 antigo standard para linguagens da Europa ocidental, ASCII + caracteres acentuados
ISO-8859-2 antigo standard para linguagens da Europa oriental, ASCII + caracteres acentuados
ISO-8859-15 antigo standard para linguagens da Europa ocidental, o ISO-8859-1 com o símbolo do euro
CP850 página de código 850, caracteres DOS da Microsoft com gráficos para linguagens da Europa ocidental, variante ISO-8859-1
CP932 página de código 932, variante Shift-JIS do estilo Microsoft Windows para Japonês
CP936 página de código 936, variantes GB2312, GBK ou GB18030 do estilo Microsoft Windows para Chinês Simplificado
CP949 página de código 949, variante EUC-KR ou or Unified Hangul Code de estilo Microsoft Windows para Coreano
CP950 página de código 950, variante Big5 de estilo Microsoft Windows para Chinês Tradicional
CP1251 página de código 1251, codificação estilo Microsoft Windows para o alfabeto Cirílico
CP1252 página de código 1252, variante ISO-8859-15 de estilo Microsoft Windows para linguagens de Europeu ocidental
KOI8-R antigo standard Russo de UNIX para o alfabeto Cirílico
ISO-2022-JP codificação standard para email Japonês que usar apenas códigos de 7 bits
eucJP antigo standard Unix de Japonês de código de 8 bits e completamente diferente do Shift-JIS
Shift-JIS JIS X 0208 Appendix 1 standard para Japonês (veja CP932)

[Nota] Nota

Some encodings are only supported for the data conversion and are not used as locale values (Secção 8.1, “O locale”).

Para os conjuntos de caracteres que cabem num byte único como os conjuntos de caracteres ASCII e ISO-8859, a codificação de caracteres significa quase o mesmo que o conjunto de caracteres.

Para conjuntos de caracteres com muitos caracteres como o JIS X 0213 para Japonês ou Universal Character Set (UCS, Unicode, ISO-10646-1) para praticamente todas as linguagens, existem muitos esquemas de codificação para os pôr na sequência dos dados do byte.

Para estes, existem diferenciações claras entre o conjunto de caracteres e a codificação de caracteres.

A página de código é usada como o sinónimo para as tabelas de codificação de caracteres para alguns específicos de marcas.

[Nota] Nota

Por favor note que a maioria dos sistemas de codificação partilham o mesmo código com o ASCII para caracteres de 7 bits. Mas há algumas exceções. Se está a converter programas C antigos Japoneses e dados de URLs a partir do casualmente chamado formato de codificação shift-JIS no formato UTF-8, use "CP932" como o nome de codificação em vez de "shift-JIS" para obter os resultados esperados: 0x5C → "\" e 0x7E → "~". Caso contrário, estes são convertidos para caracteres errados.

[Dica] Dica

O recode(1) também pode ser usado e oferece mais do que as funcionalidades combinadas do iconv(1), fromdos(1), todos(1), frommac(1) e tomac(1). Para mais, veja "info recode".

Os editores modernos inteligentes como o programa vim são bastante inteligentes e lidam bem com quaisquer sistemas de codificação e quaisquer formatos de ficheiro. Deve usar estes editores sob o locale UTF-8 numa consola com capacidades de UTF-8 para melhor compatibilidade.

Um antigo ficheiro de texto Unix em Europeu ocidental, "u-file.txt", armazenado com a codificação latin1 (iso-8859-1) pode ser editado com o vim com o seguinte.

$ vim u-file.txt

Isto é possível porque o mecanismo de auto detecção da codificação do ficheiro no vim assume primeiro a codificação UTF-8 e, se falhar, assume que é latin1.

Um antigo ficheiro de texto Unix em Polaco, "pu-file.txt", armazenado com a codificação latin2 (iso-8859-2) pode ser editado com o vim com o seguinte.

$ vim '+e ++enc=latin2 pu-file.txt'

Um antigo ficheiro de texto unix em Japonês, "ju-file.txt", armazenado com a codificação eucJP pode ser editado com o vim com o seguinte.

$ vim '+e ++enc=eucJP ju-file.txt'

Um antigo ficheiro de texto do MS Windows em Japonês, "jw-file.txt", armazenado na chamada codificação shift-JIS (mais precisamente: CP932) pode ser editado com o vim com o seguinte.

$ vim '+e ++enc=CP932 ++ff=dos jw-file.txt'

Quando um ficheiro é aberto com as opções "++enc" e "++ff", o ":w" na linha de comandos do Vim guarda-o no formato original e sobrescreve o ficheiro original. Também pode especificar o formato de gravação e o nome do ficheiro na linha de comandos do Vim, ex., ":w ++enc=utf8 new.txt".

Por favor consulte o mbyte.txt "suporte a texto multi-byte" na ajuda on-line do vim e Tabela 11.2, “Lista de valores de codificação e a utilização deles” para os valores de locale usados com "++enc".

A família de programas emacs pode executar as funções equivalentes.

A The Extensible Markup Language (XML) é uma linguagem de marcação para documentos que contêm informação estruturada.

Veja informação de introdução em XML.COM.

O texto em XML parece-se com HTML. Permite-nos gerir múltiplos formatos de saída de um documento. Um sistema XML fácil é o pacote docbook-xsl, o qual é usado aqui.

Cada ficheiro XML começa com a declaração XML standard como o seguinte.

<?xml version="1.0" encoding="UTF-8"?>

A sintaxe básica para um elemento XML é marcado como a seguir.

<name attribute="value">content</name>

O elemento XML com conteúdo vazio é marcado no seguinte formato curto.

<name attribute="value" />

O "atributo="valor"" nos exemplos em cima é opcional.

A secção de comentários em XML está marcada como a seguir.

<!-- comment -->

Em vez de adicionar marcações, o XML requer conversão menor ao conteúdo a usar entidades predefinidas para os seguintes caracteres.


[Cuidado] Cuidado

"<" ou "&" não podem ser usados em atributos ou elementos.

[Nota] Nota

When SGML style user defined entities, e.g. "&some-tag;", are used, the first definition wins over others. The entity definition is expressed in "<!ENTITY some-tag "entity value">".

[Nota] Nota

Desde que as marcações de XML sejam feitas de modo consistente com um certo conjunto de nomes de etiquetas (em vez de alguns dados como conteúdo ou valor de atributo), a conversão para outro XML é uma tarefa trivial a usar Extensible Stylesheet Language Transformations (XSLT).

Existem muitas ferramentas disponíveis para processar ficheiros XML como o Extensible Stylesheet Language (XSL).

Basicamente, após criar um ficheiro XML bem formado, pode convertê-lo para qualquer formato a usar o Extensible Stylesheet Language Transformations (XSLT).

A Extensible Stylesheet Language for Formatting Objects (XSL-FO) é suposto ser a solução para a formatação. O pacote fop é novo no arquivo main de Debian devido à sua dependência da linguagem de programação Java. Por isso o código LaTeX é normalmente gerado a partir de XML a utilizar XSLT e o sistema LaTeX é utilizado para criar ficheiros imprimíveis tais como DVI, PostScript e PDF.


Como o XML é um sub-conjunto da Standard Generalized Markup Language (SGML), pode ser processado pelas ferramentas extensivas disponíveis para SGML, como o Document Style Semantics and Specification Language (DSSSL).


[Dica] Dica

O yelp do GNOME por vezes é jeitoso para ler ficheiros XML do DocBook directamente pois ele renderiza directamente no X.

O programa troff do Unix desenvolvido originalmente pela AT&T pode ser usado para formatação de texto simples. É geralmente usado para criar as páginas de manual (manpages).

O TeX criado por Donald Knuth é uma ferramenta de formatação de texto muito poderosa e é o standard de facto. O LaTeX originalmente escrito por Leslie Lamport permite um acesso de alto nível ao poder do TeX.


Tradicionalmente, o roff é o sistema de processamento de texto principal do Unix. Veja roff(7), groff(7), groff(1), grotty(1), troff(1), groff_mdoc(7), groff_man(7), groff_ms(7), groff_me(7), groff_mm(7) e "info groff".

Pode ler ou imprimir um bom tutorial e referência à macro "-me" em "/usr/share/doc/groff/" ao instalar o pacote groff.

[Dica] Dica

"groff -Tascii -me -" produz resultados em texto simples com código de escape ANSI. Se deseja obter resultados tipo manpage com muitos "^H" e "_", então use "GROFF_NO_SGR=1 groff -Tascii -me -".

[Dica] Dica

Para remover "^H" e "_" de um ficheiro de texto gerado pelo groff, filtre-o com "col -b -x".

A distribuição de software TeX Live oferece um sistema TeX completo. O meta-pacote texlive disponibiliza uma seleção decente dos pacotes TeX Live que deverão ser suficientes para as tarefas mais comuns.

Existem muitas referências disponíveis para TeX e LaTeX.

  • O HOWTO do The teTeX: O Guia Local de Linux-teTeX

  • tex(1)

  • latex(1)

  • texdoc(1)

  • texdoctk(1)

  • "The TeXbook", por Donald E. Knuth, (Addison-Wesley)

  • "LaTeX - A Document Preparation System", por Leslie Lamport, (Addison-Wesley)

  • "The LaTeX Companion", por Goossens, Mittelbach, Samarin, (Addison-Wesley)

Este é o ambiente de formatação de texto mais poderoso. Muitos processadores SGML usam isto como processador de texto em backend. O Lyx disponibilizado pelo pacote lyx e o GNU TeXmacs disponibilizado pelo pacote texmacs oferecem um bom ambiente de edição OQVEOQT para o LaTeX enquanto muitos usam o Emacs e o Vim como a sua escolha para editor de código fonte.

Existem muitos recursos online disponíveis.

Quando os documentos ficam maiores, por vezes o TeX pode causar erros. tem de aumentar o tamanho do pool em "/etc/texmf/texmf.cnf" (ou mais apropriadamente editar o "/etc/texmf/texmf.d/95NonPath" e correr update-texmf(8)) para corrigir isto.

[Nota] Nota

The TeX source of "The TeXbook" is available at www.ctan.org tex-archive site for texbook.tex. This file contains most of the required macros. I heard that you can process this document with tex(1) after commenting lines 7 to 10 and adding "\input manmac \proofmodefalse". It's strongly recommended to buy this book (and all other books from Donald E. Knuth) instead of using the online version but the source is a great example of TeX input!

Os dados imprimíveis são expressos no formato PostScript no sistema Debian. O Common Unix Printing System (CUPS) usa o Ghostscript como o programa backend de rasterização dele para as impressoras não-PostScript.

Printable data may also be expressed in the PDF format on the recent Debian system.

PDF files can displayed and its form entries may be filled using GUI viewer tools such as Evince and Okular (see Secção 7.4, “GUI applications”); and modern browsers such as Chromium.

PDF files can be edited using some graphics tools such as LibreOffice, Scribus, and Inkscape (see Secção 11.6, “Ferramentas de dados gráficos”).

[Dica] Dica

You can read a PDF file with GIMP and convert it into PNG format using higher than 300 dpi resolution. This may be used as a background image for LibreOffice to produce a desirable altered printout with minimum efforts.

Pode unir dois ficheiros PostScript (PS) ou Portable Document Format (PDF) a usar o gs(1) do Ghostscript.

$ gs -q -dNOPAUSE -dBATCH -sDEVICE=pswrite -sOutputFile=bla.ps -f foo1.ps foo2.ps
$ gs -q -dNOPAUSE -dBATCH -sDEVICE=pdfwrite -sOutputFile=bla.pdf -f foo1.pdf foo2.pdf
[Nota] Nota

O PDF, que é um formato de dados imprimíveis amplamente usado em várias plataformas, é essencialmente o formato PS comprimido com algumas funcionalidades e extensões adicionais.

[Dica] Dica

Para a linha de comandos, o psmerge(1) e outros comandos do pacote psutils são úteis para manipular documentos em PostScript. O pdftk(1) do pacote pdftk também é útil para manipular documentos em PDF.

Os seguintes pacotes para utilitários de dados imprimíveis chamaram a minha atenção.


Ambos comandos lp(1) e lpr(1) oferecidos pelo Common Unix Printing System (CUPS) disponibilizam opções para impressão personalizada dos dados a imprimir.

Pode imprimir 3 cópias coligidas de um ficheiro a usar um dos seguintes comandos.

$ lp -n 3 -o Collate=True filename
$ lpr -#3 -o Collate=True filename

Pode personalizar ainda mais as operações da impressora ao usar opções da impressão como "-o number-up=2", "-o page-set=even", "-o page-set=odd", "-o scaling=200", "-o natural-scaling=200", etc., documentadas em Impressão em Linha de Comandos e Opções.

Os seguintes pacotes para conversão de dados de mail chamaram a minha atenção.


[Dica] Dica

The Internet Message Access Protocol version 4 (IMAP4) server may be used to move mails out from proprietary mail systems if the mail client software can be configured to use IMAP4 server too.

Mail (SMTP) data should be limited to series of 7 bit data. So binary data and 8 bit text data are encoded into 7 bit format with the Multipurpose Internet Mail Extensions (MIME) and the selection of the charset (see Tabela 11.2, “Lista de valores de codificação e a utilização deles”).

O formato de armazenamento de mail standard é mbox de acordo com RFC2822 (RFC822 atualizado). Veja mbox(5) (disponibilizado pelo pacote mutt).

Para as linguagens Europeias, "Content-Transfer-Encoding: quoted-printable" com o junto de caracteres ISO-8859-1 é geralmente usado para mail porque não existem muitos caracteres de 8 bits. Se o texto Europeu estiver codificado em UTF-8, é provável que seja usado o "Content-Transfer-Encoding: quoted-printable" pois é maioritariamente dados de 7 bits.

Para Japonês, tradicionalmente usa-se "Content-Type: text/plain; charset=ISO-2022-JP" para o mail para manter o texto em 7 bits. Mas os sistemas mais antigos da Microsoft podem enviar dados de mail em Shift-JIS sem a declaração apropriada. Se o testo Japonês for codificado em UTF-8, é provável que se use Base64 pois contém muitos dados de 8 bits. A situação de outras linguagens Asiáticas é semelhante.

[Nota] Nota

If your non-Unix mail data is accessible by a non-Debian client software which can talk to the IMAP4 server, you may be able to move them out by running your own IMAP4 server.

[Nota] Nota

Se usa outros formatos de armazenamento de mail, movê-los para o formato mbox é um bom primeiro passo. Um programa cliente versátil como o mutt(1) pode dar jeito para isto.

Pode dividir os conteúdos da mailbox para cada mensagem a usar o procmail(1) e o formail(1).

Cada mensagem de mail pode ser desempacotada a usar o munpack(1) do pacote mpack (ou outras ferramentas especializadas) para obter os conteúdos codificados em MIME.

Apesar dos programas com GUI como o gimp(1) serem muito poderosos, as ferramentas de linha de comandos como o imagemagick(1) são bastante úteis para automatizar a manipulação de imagens via scripts.

O formato de facto de ficheiros de imagem das câmaras digitais é o Exchangeable Image File Format (EXIF) o qual é o formato de ficheiros de imagem JPEG com etiquetas de meta-dados adicionais. Pode conter informações como a data, hora e definições da camera.

A patente de compressão de dados sem perdas de Lempel-Ziv-Welch (LZW) expirou. Os utilitários de Graphics Interchange Format (GIF) que usam o método de compressão LZW estão agora livremente disponíveis no sistema Debian.

[Dica] Dica

Qualquer câmara digital ou scanner com meio de gravação amovível funciona em Linux através de leitores de armazenamento USB desde que sigam as Regras de Desenho para Sistemas de Ficheiros de Câmaras e usem o sistema de ficheiros FAT. Veja Secção 10.1.7, “Aparelho de armazenamento amovível”.

The following packages for the GUI graphics data conversion, editing, and organization tools caught my eyes.

Tabela 11.18. List of graphics data tools (GUI)

pacote popcon tamanho palavra chave descrição
gimp V:50, I:252 19304 imagem(bitmap) GNU Image Manipulation Program
xsane V:12, I:144 2339 imagem(bitmap) Frontend X11 baseado em GTK para o SANE (Scanner Access Now Easy)
scribus V:1, I:16 31345 ps/pdf/SVG/… editor de DTP do Scribus
libreoffice-draw V:72, I:430 10312 imagem(vector) suite de escritório do LibreOffice - desenho
inkscape V:15, I:112 99800 imagem(vector) editor de SVG (Scalable Vector Graphics)
dia V:2, I:22 3741 imagem(vector) editor de diagramas (Gtk)
xfig V:0, I:11 7849 imagem(vector) Habilidade para Geração interactiva de figuras sob X11
gocr V:0, I:7 540 imagem→texto software de OCR livre
eog V:64, I:277 7770 imagem(Exif) Programa de visualização de gráficos Olho do GNOME
gthumb V:3, I:16 5032 imagem(Exif) visualizador e navegador de imagens (GNOME)
geeqie V:4, I:15 2522 imagem(Exif) Visualizador de imagens que usa GTK
shotwell V:17, I:255 6263 imagem(Exif) organizador de fotos digitais (GNOME)
gwenview V:33, I:106 11755 imagem(Exif) visualizador de imagens (KDE)
kamera I:105 998 imagem(Exif) Suporte para cameras digitais para aplicações do KDE
digikam V:1, I:9 293 imagem(Exif) aplicação de gestão de fotos digitais para KDE
darktable V:4, I:13 30554 imagem(Exif) virtual lighttable and darkroom for photographers
hugin V:0, I:8 5208 imagem(Exif) panorama photo stitcher
librecad V:1, I:15 8963 DXF, ... 2D CAD data editor
freecad I:18 36 DXF, ... 3D CAD data editor
blender V:3, I:28 84492 blend, TIFF, VRML, … editor de conteúdos 3D para animação e etc
mm3d V:0, I:0 3881 ms3d, obj, dxf, … editor de modelos 3D baseado em OpenGL
fontforge V:0, I:6 3993 ttf, ps, … editor de tipo de letra para fonts PS, TrueType e OpenType
xgridfit V:0, I:0 806 ttf programa para ajustes e alinhamento em grelha de tipos de letra TrueType

The following packages for the CLI graphics data conversion, editing, and organization tools caught my eyes.

Tabela 11.19. List of graphics data tools (CLI)

pacote popcon tamanho palavra chave descrição
imagemagick I:317 74 imagem(bitmap) programas de manipulação de imagens
graphicsmagick V:1, I:11 5565 imagem(bitmap) programas de manipulação de imagens (fork do imagemagick)
netpbm V:28, I:326 8526 imagem(bitmap) ferramentas de conversão de gráficos
libheif-examples V:0, I:2 191 heif→jpeg(bitmap) convert High Efficiency Image File Format (HEIF) to JPEG, PNG, or Y4M formats with heif-convert(1) command
icoutils V:7, I:50 221 png↔ico(bitmap) converte ícones e cursores do MS Windows de e para formatos PNG (favicon.ico)
pstoedit V:2, I:52 1011 ps/pdf→imagem(vector) conversor de ficheiro PostScript e PDF para gráficos vectoriais editáveis (SVG)
libwmf-bin V:7, I:119 151 Windows/imagem(vector) ferramentas de conversão de meta-ficheiros do Windows (dados de gráficos vectoriais)
fig2sxd V:0, I:0 151 fig→sxd(vector) converte ficheiros XFig ao formato do OpenOffice.org Draw
unpaper V:2, I:17 412 imagem→imagem ferramenta de pós-processamento para páginas digitalizadas em scanner para OCR
tesseract-ocr V:7, I:33 2228 imagem→texto software livre de OCR baseado no motor de OCR comercial da HP
tesseract-ocr-eng V:7, I:34 4032 imagem→texto Dados de motor OCR: ficheiros de linguagem tesseract-ocr para texto Inglês
ocrad V:0, I:3 587 imagem→texto software de OCR livre
exif V:2, I:42 339 imagem(Exif) utilitário de linha de comandos para mostrar informação EXIF nos ficheiros JPEG
exiv2 V:2, I:27 275 imagem(Exif) ferramenta de manipulação de meta-dados EXIF/IPTC
exiftran V:1, I:14 69 imagem(Exif) transformar imagens jpeg de câmaras digitais
exiftags V:0, I:3 292 imagem(Exif) utilitário para ler etiquetas Exif de ficheiros JPEG de câmaras digitais
exifprobe V:0, I:3 499 imagem(Exif) ler meta-dados de imagens digitais
dcraw V:1, I:12 583 imagem(Raw)→ppm descodifica imagens cruas de câmaras digitais
findimagedupes V:0, I:1 77 image→fingerprint encontra imagens visualmente semelhantes ou duplicadas
ale V:0, I:0 839 imagem→imagem junta imagens para aumentar a fidelidade ou criar mosaicos
imageindex V:0, I:1 145 imagem(Exif)→html gera galerias HTML estáticas a partir de imagens
outguess V:0, I:1 230 jpeg,png ferramenta de Esteganografia universal
jpegoptim V:0, I:7 59 jpeg optimize JPEG files
optipng V:3, I:43 213 png optimize PNG files, lossless compression
pngquant V:0, I:9 61 png optimize PNG files, lossy compression

Existem muitos outros programas para converter dados. Os pacotes seguintes chamaram a minha atenção a usar a expressão regular "~Guse::converting" no aptitude(8) (veja Secção 2.2.6, “Opções do método de pesquisa com o aptitude”).


Também pode extrair dados do formato RPM com o seguinte.

$ rpm2cpio file.src.rpm | cpio --extract