Unicode

Unicode je tabulka znaků všech existujících abeced, která v současnosti obsahuje více než 110 000 znaků. Unicode umožňuje pracovat se znaky všech písem i různými jinými symboly stejným způsobem, takže mohou být využívány současně.

Vývoj Unicode začal v roce 1987 a byl dovršen v roce 1991 založením Unicode Consortium.

Vývoj

Ke konci osmdesátých let 20. století vznikla naléhavá potřeba sjednotit různé kódové tabulky znaků pro národní abecedy. Například český jazyk používal v informatice nejméně 5 různě kódovaných tabulek (kódování bratří Kamenických, PC Latin 2, Windows-1250, ISO Latin 2, … ). Vznikaly značné problémy při spolupráci aplikací a při přenosech dat mezi programy a různými platformami. Podobná situace byla ve všech jazycích, které nevystačily se základní 7bitovou tabulkou ASCII znaků.

V té době vznikly současně dva projekty pro vytvoření jednotné univerzální kódovací tabulky znaků. Byl to projekt ISO 10646 organizace ISO a projekt Unicode. Norma ISO definuje tzv. UCS – Universal Character Set.

Kolem roku 1991 došlo k dohodě a projekty spojily své úsilí na vytvoření jednotné tabulky. Oba projekty stále existují a publikují své standardy samostatně, ale tabulky znaků jsou kompatibilní a jejich rozšiřování je koordinováno.

Unicode verze 1.1 odpovídá normě ISO 10646-1:1993, Unicode 3.0 odpovídá ISO 10646-1:2000, Unicode 4.0 odpovídá třetí verzi ISO 10646:2003. Všechny verze Unicode od 2.0 výše jsou zpětně kompatibilní, jsou přidávány pouze nové znaky, existující znaky nejsou vyřazovány nebo přejmenovávány.

Unicode se drží zároveň důležitého pravidla jednotné metody zjišťování totožnosti znaků, efektivnější a snadněji přizpůsobitelná než předchozí kódovací systémy. Umožňuje vícejazyčné přesněji mnohopísmové práce s textem v počítači a kóduje široké portfolio znaků pro profesionální zpracování textů v prakticky jakémkoli moderním i historickém jazyce.

Dnes

16. června 2014 konsorcium Unikódu vydalo 7. verzi normy „Unicode Standard“. Tím přibylo 2 834 nových znaků, např. nový měnový znak pro rubl a ázebajdžánský manat, asi 250 emotikonů a 23 nových (z hlediska Unikódu) málo užívaných a historických písem a také přidané znaky k četným již zařazených písmům celého světa (Severní Ameriky, Číny, Indie a dalších asijských zemí a Afriky).

A pracuje se na verzi 8.0.

Původní cíle standardu Unicode

Jednotnost

Konstantní šířka znaků dovoluje efektivní hledání, třídění, editace a zobrazení prvků.

Univerzálnost

Kapacita znakové sady musí být dostatečně velká k zahrnutí všech znaků, které by mohly být využity při výměně textů – především ty, které už byly definovány v hlavních mezinárodních, národních a průmyslových znakových sadách.

Jednoznačnost

Jakákoli 16bitová hodnota, která zastupuje v jakémkoliv kontextu stejný znak.

Maximální využití

Text poskládaný z posloupnosti znaků o konstantní šířce může být velmi lehce zpracován; software nemusí zachovávat stav, dávat si pozor na speciální escape sekvence nebo prohledávat text dopředu či zpět kvůli určení totožnosti znaků.

Standard Unicode se oproti ISO 10646 navíc zabývá implementací algoritmů pro písma psaná zprava doleva (např. arabština), podporou oboustranných textů (jako např. směs hebrejštiny a latinky), algoritmy pro řazení a porovnávání textů.

V současné chvíli existuje Unicode ve verzi 5.2, která vyšla v roce 2009. Celkem obsahuje více než 245 000 znaků a symbolů z 90 různých jazyků a abeced. Unicode Consortium již v této chvíli zaručuje, že všechny nové verze budou zpětně kompatibilní s předchozími, tj. že nové standardy budou přidávat další znaky, ale žádné již nebudou odstraňovat ani měnit.

Unicode není používán pro kódování různých nesmyslných a zřídkakdy používaných znaků nebo znaků pro osobní potřebu, ani grafiky. Umělé znaky, použité pouze pro přechodné vkládání textu, jsou vynechány. Obrázky bez souvislosti k textu, jako jsou například taneční či hudební značky, nezasahují do činnosti Unicode. Různosti v zobrazení znaků nejsou znázorňovány. V rámci Unicode kódování je vyhrazeno 6400 znaků pro potřebu programů; využívání těchto kódů programy není nijak omezeno.

V souvislosti s jazyky jako je wachánština, jejichž ortografie založené na latince používají několik znaků cyrilice či řeckého písma, byla řešena otázka, zda kvůli nim do Unicode přidat znaky jako latinská delta, latinská théta či latinské jery jako latinské protějšky těchto řeckých a cyrilských písmen. Jeden z názorů na tuto problematiku je, že požadavek, aby jazyk byl zapisován pouze znaky jednoho písma je umělý a že v minulosti si různé jazyky půjčovaly písmena i z jiných písem, takže na soubor písmen latinky, cyrilice a řeckého písma může být nahlíženo jako na latinsko-cyrilsko-řecké metapísmo a tedy pro zápis těchto jazyků používat písmena v Unicode již obsažené místo vytváření nových. I v případě, kdy by tato písmena byla zavedena, lze očekávat, že by i nádále pro zápis byly používány řecké a cyrilské verze těchto písmen, protože latinské verze by byly obsaženy pouze v malém počtu fontů.

Znaky Unicode

Sjednocení světového kódování znaků je skvělá, ale šestnáctibitové kódování s sebou nese a přináší i několik nevýhod a to:

256× větší znaková sada

Znaky na PC se zobrazí fonty, které kvůli Unicode musí obsahovat 256× víc znaků, než pro 8bitové znakové sady. Pokud přihlédneme k tomu, že v dost jazycích se využije jen malá část z celkového množství, tak znaky úplně zbytečně zabírají místo. Tuto věc Microsoft řeší tak, že Unicode fonty neobsahují úplně všechny znaky, ale jen tu část, která je plně využívaná v určitém prostředí.

Délka textu

Text je po převádění z osmibitového kódování Unicode 2× delší, ale bez přidání nějaké informační hodnoty. Výsledný text zabere víc místa při uložení a také další zpracování je pomalejší.

Neslučitelnost s osmibitovým prostředím

Unicode text může mít znaky, které v "normálním", osmibitovém textu normálně nejsou a většinou mají speciální význam - jde především o binární nulu, kterou Unicode text může obsahovat jako vyšší byte dvoubytového kódu. Nejde tedy použít stávající programový kód pro práci s textem a musí se od začátku přepsat. Nejde lehce zjistit, jestli text je v Unicode nebo ne, nejde proto lehce zároveň používat Unicode a nějaké další osmibitové kódování. Není možné přejít na Unicode jen z části, je nutný celkový přechod, aby aplikace nejen dostaly text v Unicode, ale aby hlavně Unicode text i očekávaly. Okolnost, že to jde v rámci uzavřeného systému, ukazuje firma Sun s Javou, pracující vnitřně v Unicode, a také produkty firmy Microsoft. Subvenci Unicode však nelze zajistit obecně a nelze kalkulovat s tím, že mu druhá strana bude vždy rozumět – uveřejnění v poště nebo na WWW stránkách je tedy velmi problematické. Ale v tomto bodě se však situace pomalu mění k lepšímu.

Každý znak má jednoznačný číselný kód a svůj název. Navíc Unicode definuje u každého znaku některé základní vlastnosti jako např. zda se jedná o písmeno, symbol atd., zda je písmeno velké či malé atp.

Tabulka Unicode poskytuje prostor pro 1 114 112 znaků s kódy 0₁₆ až 10FFFF₁₆. Tento prostor se dělí na 17 částí, každý o velikosti 2¹⁶. První část se nazývá Basic Multilingual Plane (BMP) a obsahuje znaky běžně používaných abeced. Původní 16bitový návrh Unicode počítal jen s BMP, následně se ale ukázalo, že pro pokrytí všech používaných abeced to nestačí.

Prvních 128 znaků (tj. sedmibitové kódy) obsahuje znakovou sadu ASCII. Osmibitové kódy (tj. prvních 256 znaků) obsahuje znakovou sadu ISO 8859-1 (ISO 8859-1 obsahuje ASCII).

Kódování

BOM (hexa)	Velikost prostoru Unicode	Kódování	velikost atomu (B,1B=8b)	počet atomů	maximální délka znaku (B,1B=8b)
EF BB BF	21b, větší než BMP	UTF-8	1B	1 až 4	4B
FE FF	21b, větší než BMP	UTF-16, varianta UTF-16BE, (big-endian)	2B	1 až 2	4B
FF FE	21b, větší než BMP	UTF-16, varianta UTF-16LE, (little-endian)	2B	1 až 2	4B
00 00 FE FF	32b, větší než BMP	UTF-32, varianta UTF-32BE, (big-endian)	2B	2	4B
FF FE 00 00	32b, větší než BMP	UTF-32, varianta UTF-32LE, (little-endian)	2B	2	4B
EF BB BF	31b, větší než BMP	UTF-8, rozšíření	1B	1 až 6	6B
FE FF	16b, právě BMP	UCS-2, varianta UCS-2BE, (big-endian)	2B	1	2B
FF FE	16b, právě BMP	UCS-2, varianta UCS-2LE, (little-endian)	2B	1	2B
-	8b, menší než BMP	ASCII + code page	1B	1	1B
-	7b, menší než BMP	ASCII	1B	1	1B

Existuje několik různých způsobů, jak znaky Unicode kódovat. Základní kódování, definovaná přímo ve standardu Unicode, jsou:

• UTF-32,
• UTF-16,
• UTF-8,
• UCS-2.

Kódování UTF-32, UTF-16 a UCS-2 mají každá své varianty podle používaného pořadí bajtů. Buď je napevno stanoveno pořadí little-endian, resp., big-endian, nebo se toto pořadí určuje podle tzv. byte order mark (BOM), speciální značky umístěné na začátku textu.

UTF-32

V kódování UTF-32 (též označováno jako UCS-4) je každý znak reprezentován přímo 32bitovým číslem. Jedná se tedy o principiálně velmi jednoduché kódování (jeho hlavní výhodou je stejná délka všech znaků), které však má poměrně vysoké nároky na paměť. Při serializaci do posloupnosti bajtů se podle endianity rozlišují varianty UTF-32BE (big-endian), UTF-32LE (little-endian) a UTF-32 (nestanoveno, může být určeno pomocí BOM).

UTF-16

V kódování UTF-16 se znaky BMP reprezentují jedním 16bitovým číslem, znaky mimo BMP jsou reprezentovány párem 16bitových čísel (tzv. surrogate pair). Pro surrogate pairs se používají čísla v rozsahu D800₁₆–DFFF₁₆, přičemž odpovídající znaky v BMP (U+D800 – U+DFFF) jsou rezervovány pro tento účel, nemohou se proto v původním textu vyskytnout.

Existuje starší obdoba tohoto kódování, kódování UCS-2, které znaky BMP kóduje shodně jako UTF-16, ale nepodporuje surrogate pairs a znaky mimo BMP v něm vůbec nelze reprezentovat.

I zde se podle endianity rozlišují varianty UTF-16BE (big-endian), UTF-16LE (little-endian) a UTF-16 (nestanoveno, může být určeno pomocí BOM).

UTF-16 je výrazně úspornější než UTF-32, ale ztrácí jeho výhodu pevné šířky znaku – některé znaky jsou široké 2 bajty, některé 4. Přesto se jedná o kódování používané jako základní ve velkém množství operačních systémů a dalšího software (např. Microsoft Windows, .NET Framework atd.).

UTF-8

V UTF-8 se znaky kódují různě dlouhou (1–6 bajty) posloupností bajtů podle jejich pozice v Unicode. Znaky ASCII (U+0000 – U+007F) jsou kódovány jedním bajtem, identicky jako v ASCII, znaky v rozsahu U+0080 – U+07FF (kde jsou také všechny znaky s diakritikou používané v české abecedě) jsou kódovány dvěma bajty, znaky U+0800 – U+FFFF (kam patří znak Euro – € – U+20AC) jsou kódovány třemi bajty, znaky mimo BMP jsou kódovány čtyřmi bajty. Znaky pro které by se použilo pětibajtové a šestibajtové kódování zatím nebyly definovány.

UTF-8 se často se používá pro přenos dat, neboť je prostorově úsporné (hlavně pro texty psané latinkou s nevelkým počtem znaků s diakritikou, které obsahují většinu jednobajtových a zbytek dvoubajtových kódů; v nelatinkových písmech je většina textu tvořena dvoubajtovými kódy, písma Dálného východu používají tříbajtové kódy), je odolné proti chybám a zpětně kompatibilní s ASCII. Při jeho zpracování je však nepříjemná nestejná délka znaků.

Použití BOM jako příznaku endianity je u UTF-8 zbytečné (pořadí bajtů je jednoznačně určeno), BOM však může posloužit pro snadnou detekci, že se jedná o UTF-8.

UTF-8 je popsané v ISO 10646-1:2000 Annex D a také v RFC 3629.

UCS-2

UCS-2 je původní způsob zápisu Unicode znaků. Pro uložení dat se využívá posloupnost dvoubajtových částí. Konec textového řetězce může být označen například 16bitovým NULL, tedy 0x0000; je potřeba dát si pozor, že osmibitové NULL (0x00) se může objevovat v nižším nebo vyšším byte čísla Unicode znaku. Velkou výhodou UCS-2 oproti jiným formám je konstantní délka znaku a snadné zjišťování počtu znaků v řetězci, je tedy vhodná zejména pro vnitřní reprezentaci Unicode znaků v programu.

Další kódování

Z různých důvodů existují také další méně často používaná kódování, jako jsou např. UTF-7 či CESU-8.

Operační systémy

Znakovou sadu Unicode používá většina moderních operačních systémů.

Operační systémy Microsoft Windows používají Unicode pro vnitřní zápis znaků od verze NT přes 2000.

Také většina distribucí Linuxu má buď nastaveno UTF-8 jako výchozí kódování nebo alespoň umožňuje jeho používání.

Aplikace

Některé starší aplikace Unicode (dosud) nepodporují. Na druhé straně pro některé systémy je Unicode již jedinou používanou znakovou sadou.

Programovací jazyky Java a jazyky podporující Common Language Infrastructure (např. C#) vnitřně používají šestnáctibitovou verzi Unicode a navenek podporují mnoho různých kódování.

Též systémy řízení báze dat dnes již často používají Unicode pro uložení znakových údajů.

Na Unicode je založen kancelářský balík Microsoft Office od verze 97.

Web

Unicode je znakovou sadou pro HTML dokumenty od verze 4.0 a pro všechny XML dokumenty. Výchozím kódováním je UTF-8, které všechny prohlížeče podporují už delší dobu.

Čeština

Na rozdíl od dřívějších osmibitových tabulek znaků jako je bratří Kamenických, Latin 2, Windows-1250 či ISO-8859-2 lze všechny znaky zobrazit zároveň; v jednom textu lze tedy kombinovat např. češtinu (latinka), ruštinu (azbuka) a řečtinu (alfabeta).

Tabulka českých znaků Unicode

znak	HTML entita	dec	hex	UTF-8 v URL	znak	HTML entita	dec	hex	UTF-8 v URL
Á	Á	193	U+00C1	%C3%81	á	á	225	U+00E1	%C3%A1
Č	Č	268	U+010C	%C4%8C	č	č	269	U+010D	%C4%8D
Ď	Ď	270	U+010E	%C4%8E	ď	ď	271	U+010F	%C4%8F
É	É	201	U+00C9	%C3%89	é	é	233	U+00E9	%C3%A9
Ě	Ě	282	U+011A	%C4%9A	ě	ě	283	U+011B	%C4%9B
Í	Í	205	U+00CD	%C3%8D	í	í	237	U+00ED	%C3%AD
Ň	Ň	327	U+0147	%C5%87	ň	ň	328	U+0148	%C5%88
Ó	Ó	211	U+00D3	%C3%93	ó	ó	243	U+00F3	%C3%B3
Ř	Ř	344	U+0158	%C5%98	ř	ř	345	U+0159	%C5%99
Š	Š	352	U+0160	%C5%A0	š	š	353	U+0161	%C5%A1
Ť	Ť	356	U+0164	%C5%A4	ť	ť	357	U+0165	%C5%A5
Ú	Ú	218	U+00DA	%C3%9A	ú	ú	250	U+00FA	%C3%BA
Ů	Ů	366	U+016E	%C5%AE	ů	ů	367	U+016F	%C5%AF
Ý	Ý	221	U+00DD	%C3%9D	ý	ý	253	U+00FD	%C3%BD
Ž	Ž	381	U+017D	%C5%BD	ž	ž	382	U+017E	%C5%BE

Historie verzí Unicode

• Unicode 5.0
• Unicode 5.1
• Unicode 5.2
• Unicode 6.0
• Unicode 6.1
• Unicode 6.2
• Unicode 6.3

Unicode 7.0

Unicode verze 7.0 bylo vydáno 16. června 2014. Tato verze rozšířila množinu znaků především o asi 250 znaků emoji. Celkem Unicode 7.0 přidává 2834 nových znaků a zavádí 23 nových jazyků. Z celkového počtu znaků jich 327 bylo přidáno do BMP, ostatních 2507 bylo přidáno do Plane 1.

Literatura

• The Unicode Consortium: The Unicode Standard, Version 5.2.0. Mountain View, CA: The Unicode Consortium, 2009. ISBN 978-1-936213-00-9.

Externí odkazy

• unicode.org – oficiální stránky (anglicky)

• DecodeUnicode – Unicode wiki (anglicky, německy)
• UTF-8 and Unicode FAQ for Unix/Linux
• Praktická tabulka se všemi znaky Unicodu