Труды Математического института РАН

1995, том 209

УДК 513.83

Б.И. Коркина

Д в у м е р н ы е цепные дроби. Самые п р о с т ы е п р и м е р ы

При геометрическом представлении цепным дробям соответствуют границы вы­

пуклых оболочек целых точек в некоторых углах на плоскости (см. [1]). Коэффици­
енты цепной дроби равны целочисленным длинам отрезков, лежащих на границах
выпуклых оболочек. Обобщая цепные дроби на n-мерный случай, Ф. Клейн [1],
Г.Ф. Вороной [2], Г. Минковский [3] стали рассматривать границы выпуклых обо­
лочек целых точек в (п + 1)-мерных конусах. Оказывается, n-мерные границы вы­
пуклых оболочек в специальных алгебраических конусах периодичны, что обобщает
теорему Лагранжа: цепная дробь всякой квадратичной иррациональности перио­
дична, начиная с некоторого момента. Однако пока еще совершенно не ясно, какие
локальные характеристики n-мерных границ, подобные целочисленным длинам от­
резков, позволяют однозначно восстановить ?\-мерную границу выпуклой оболочки
и судить о ее периодичности. В статье вычислены границы некоторых двумерных
периодических выпуклых оболочек. Одна из этих оболочек обобщает цепную дробь
Фибоначчи для числа {у/Ъ + 1 ) / 2 , в которой все неполные частные равны 1. Для
двумерной оболочки Фибоначчи найдены локальные характеристики, позволяющие
восстановить всю оболочку. Показано, что в некотором смысле двумерная цепная
дробь Фибоначчи является самой простой среди всех двумерных цепных дробей.
Вычисления выпуклых оболочек проводились на компьютере. Более того, дока­
зательство основных двух утверждений статьи опирается на компьютерные вычи­
сления.
Результаты, приведенные в этой статье, являются ответами на некоторые из
вопросов, которые В.И. Арнольд предлагает для исследования многомерных цепных
дробей. Краткое содержание статьи докладывалось автором на конференции [4].

1. Введение. Цепные дроби и выпуклые оболочки целых точек

В этом разделе мы объясним, почему выпуклые оболочки целых точек в симпли-

циальных конусах являются многомерными аналогами цепных дробей. Приведем
теорему, обобщающую теорему Лагранжа о периодических цепных дробях. Сфор­
мулируем основной результат статьи о наборе локальных инвариантов, позволяю­
щих однозначно восстановить "самую простую двумерную цепную дробь" — аналог

© Б.И. Коркина, 1995 143

цепной дроби Фибоначчи. Точные формулировки и доказательства будут приведены
в следующих разделах.
Цепные дроби удобно представлять геометрически (см. [5]). Для представления
цепной дроби

а= а H
0 —*— > О

сделаем следующее (рис. 1). В положительном октанте на плоскости проведем через

О луч / с тангенсом угла наклона а к оси Ох. Возьмем границы выпуклых обо­
лочек целых точек, кроме О, лежащих ниже луча / (соответственно выше луча / ) .
Граница является ломаной линией специального типа. Одно ее ребро (идущее вдоль
оси координат) всегда бесконечно. Будем считать его начальным. Если а — раци­
ональное число, то далее следует конечное число ребер конечной длины. Последнее
конечное ребро заканчивается на луче /, далее идет бесконечное ребро вдоль /. Если
а иррационально, число конечных ребер бесконечно. Их последовательность ухо­
дит в бесконечность вдоль луча /, неограниченно к нему приближаясь. Конечные
ребра границы нижней (верхней) оболочки обозначим последовательно а о , а г , а 4 , . . .
(ai, аз, a s , . . . ) , считая от оси Ох (оси Oy). Тогда неполные частные а, цепной дроби
и ребра а,- границ оболочек связаны соотношением а,- = |a |. t

/1

• • • •

A
a /// 2
F

•г / / • • •
•

г / / • • •

0
/ г°
1
Рис. 1. Геометрическое представление дроби 1 + — i

Здесь I • I обозначает целочисленную длину целочисленного (т.е. концами в целых

точках) вектора (или отрезка). Определяется она так. На прямой, содержащей це­
лочисленный отрезок, имеется целочисленный отрезок минимальной длины. Любой
другой целочисленный отрезок на этой прямой ему кратен. Коэффициент кратно­
сти и называется целочисленной длиной. Целочисленная длина отрезка в п-мерном
пространстве является его СЬ (2£)-инвариантом.
п

Сделав отступление, определим здесь же некоторые другие GL „(^-инварианты

144
целочисленных фигур, которые нам понадобятся в дальнейшем.
Целочисленным ib-мерным объемом целочисленного ^-мерного многогранника,
лежащего в п-мерном пространстве, называется коэффициент кратности между его
евклидовым объемом и евклидовым объемом минимального симплекса, лежащего в
том же Jb-мерном подпространстве.
Целочисленным расстоянием от целочисленной гиперплоскости (содержащей
(п — 1)-мерную целочисленную решетку) до целой точки называется коэффициент
кратности между соответствующим евклидовым расстоянием и евклидовым рас­
стоянием от гиперплоскости до ближайшей к ней целой точки.
Целочисленным углом между двумя целочисленными лучами называется вели­
чина 5(u, v)/(|u| • |v|), где u и v — произвольные целочисленные векторы, идущие
вдоль лучей, и «S(u, v) — целочисленная площадь треугольника со сторонами u и v.
Как правило, слово "целочисленный" в дальнейшем будем опускать.
Замечание. К предыдущему утверждению требуется уточнение: если чи­
сло ребер конечно, то число неполных частных цепной дроби на 1 меньше числа
ребер, а длина последнего ребра всегда равна 1.
Подобные иррегулярности около последнего ребра надо бы отмечать в ниже­
следующих утверждениях. Мы этого делать не будем, чтобы не отвлекаться на
частности. Без дополнительных оговорок утверждения верны для иррациональных
углов а. Теорема о существовании и единственности числа а, определенного цеп­
ной дробью с произвольно заданными коэффициентами в геометрических терминах,
звучит так.
Т е о р е м а . Для произвольно заданных общего числа звеньев на границах вы­
пуклых оболочек и их длин в указанном порядке существует единственный луч I с
такими выпуклыми оболочками выше и ниже него.
Заданная информация о ломаной линии иначе называется комбинаторной струк­
турой ломаной, оснащенной локальным инвариантом — длиной ребер.
Знание комбинаторной структуры, оснащенной длинами ребер, лишь одной из
границ выпуклых оболочек, очевидно, недостаточно для восстановления луча /. Но,
оснастив eç дополнительным инвариантом, можем получить достаточную инфор­
мацию. А именно: для произвольно заданной комбинаторной структуры границы
оболочки, оснащенной длинами ребер и целочисленными углами между соседними
ребрами (с начальным бесконечным ребром), существует единственный луч / с та­
кой нижней (или верхней) оболочкой.
Легко выделить класс рациональных чисел а в терминах комбинаторной струк­
туры границ выпуклых оболочек. Им соответствуют границы с конечным числом
ребер (число ребер на верхней и нижней границе конечно или бесконечно одновре­
менно).
Теорема Лагранжа выделяет класс квадратично иррациональных чисел а в тер­
минах комбинаторной структуры границ оболочек, оснащенной теми или иными ло­
кальными инвариантами. А именно следующие три условия эквивалентны:
1) число а квадратично-иррационально;
2) комбинаторная структура обеих границ, оснащенная длинами ребер, перио-

145
 Рис. 2. Цепная дробь Фибоначчи 1 + — i и выпуклые оболочки в инвариантных углах

оператора Фибоначчи А —

дична, начиная с некоторого момента (попросту говоря, периодичны хвосты после­

довательностей ао, ö 2 , 0 4 , . . . и ai, аз, 0 5 , . . . ) ;
3) комбинаторная структура одной (любой) из границ, оснащенная длинами ре­
бер и углами между соседними ребрами, периодична, начиная с некоторого момента.
Периодичность границ выпуклых оболочек для квадратично-иррациональных
чисел а объясняется тем, что в этом случае существует линейный изоморфизм це­
лочисленной решетки (т.е. SL (2£)-onepaTop), для которого луч / инвариантен и ко­
n

торый сдвигает хвосты границ оболочек вдоль периода. Иррегулярность границ в

начале происходит из-за того, что вторые стороны углов, в которых берутся оболоч­
ки, лучи Ох и Oy, никак не связаны с SL г(^)-оператором. Возьмем произвольный
угол К на плоскости с вершиной в О и границу выпуклой оболочки целых точек
(исключая точку О) в нем.
Граница является бесконечной в обе стороны ломаной (рис. 2). Бесконечность
с каждой стороны достигается либо бесконечным числом ребер, либо ребром беско­
нечной длины.
Аналог теоремы о существовании и единственности числа, определяемого цепной

146
дробью, звучит так: для произвольно заданной комбинаторной структуры беско­
нечной в обе стороны ломаной, оснащенной длинами ребер и углами между сосед­
ними ребрами, существует и единственный с точностью до Glu (Ъ)-изоморфизма
2

угол, в котором граница выпуклой оболочки целых точек имеет заданную струк-
туру.
Пару прямых всегда можно, и притом однозначно (с точностью до GL 2(2^)-

изоморфизма), восстановить также по комбинаторной структуре границ оболочек,

оснащенной длинами ребер в паре смежных углов. Но в такую комбинаторную
структуру надо включить еще задание естественного соответствия между ребра­
ми и вершинами в смежных углах: каждое ребро параллельно одному из векторов,
соединяющих О с вершиной в смежном угле, что и задает взаимно-однозначное со­
ответствие между ними.
Аналог теоремы Лагранжа устанавливает эквивалентность следующих трех
условий для углов на плоскости:
1) угол К инвариантен относительно некоторого SL (Z)-onepaTopa с различны­
N

ми действительными положительными собственными числами;

2) комбинаторная структура границы оболочки в К, оснащенная длинами ребер
и углами между соседними ребрами, периодична;
3) комбинаторные структуры границ оболочек в угле К и смежном с ним угле
К\ оснащенные длинами ребер, периодичны.
Изоморфизм целочисленной решетки, переводящей угол К в себя, переводит в
себя также выпуклые оболочки в углах К и К', сдвигая их границы вдоль периода.
На рис. 2 луч / имеет тангенс угла наклона ( > / 5 + 1 ) / 2 (число Фибоначчи). Цепная
дробь этого числа имеет все неполные частные 1, т.е. периодична с самого начала
и период имеет длину 1. Оператор, сдвигающий границы верхней и нижней обо-

(оператор Фибоначчи). В инвариантных

углах этого оператора границы оболочек остаются без изменения в положительном

октанте и периодически продолжаются дальше. (Для других операторов, вообще
говоря, границы в положительном октанте над и под собственным лучом в своих
началах отличаются от границ в инвариантных углах. Из-за этого и нарушается
периодичность в начальных коэффициентах цепной дроби.)
Заметим, что оператор А переводит ребро а,- в а,+2, различая тем самым период
длины 2 у дроби Фибоначчи, хотя у нее есть период длины 1. Оказывается, опе-

Оператор а переставляет между

собой углы К и К', переводя а,- в a + i , различая период длины 1. В связи с этим
t

дадим такое определение целочисленной длины периода оболочек в инвариантных

углах оператора. Пусть G — группа всевозможных GL.2(Z)-onepaTopoB, переводя­
щих заданную пару прямых (стороны углов) в себя. Целочисленной длиной периода
называется мощность минимального множества целых точек на плоскости, кото-

147
рое разносится на все целые точки всех четырех границ применением операторов
из G. Иначе говоря — это целочисленная длина фундаментальной области границ
в четырех углах по отношению к группе целочисленных операторов, переводящих
четверку границ в себя. По этому определению период оболочек Фибоначчи равен 1:
одна точка группой, порожденной операторами — Е и а, разносится на все целые
точки всех четырех границ.
Перейдем теперь к многомерному случаю. Пусть SL„(2£)-onepaTop А имеет п
п
различных действительных положительных собственных чисел. Тогда в Ж имеет­
ся базис, составленный из собственных векторов оператора А. Конус К, натянутый
на собственный базис оператора Л, инвариантен относительно А. Следовательно,
и граница выпуклой оболочки целых точек в К (за исключением О) инвариантна
относительно А. Граница выпуклой оболочки в К является (п — 1)-мерным мно­
1
гогранником, гомеоморфна Ж"" , и оператор А действует на ней без неподвижных
точек. В этом смысле граница выпуклой оболочки в К имеет период. Фактор грани­
цы по действию группы, порожденной оператором Л, гомеоморфен (п — 1)-мерному
n 2 1
цилиндру E ~ x S . Из теоремы Дирихле вытекает гораздо более сильная перио­
дичность границ оболочек в инвариантных конусах SL„(2£)-onepaTopoB.
Верно следующее. Пусть характеристический многочлен оператора А неприво­
дим над полем рациональных чисел и все его корни действительны и положительны.
Тогда в собственном конусе К оператора А действует свободная группа с (n — 1)-
образующими, составленная из SL (2£)-onepaTopoB. Фактор границы выпуклой обо­
n

лочки целых точек в К по действию этой группы гомеоморфен (п — 1)-мерному тору.

Иначе можем сказать, что оболочка имеет n — 1 период.
Комбинаторная структура любого многогранника, вложенного в 1 " , не изме­
п
няется при действии линейных изоморфизмов пространства Ж (грани переходят в
грани тех же размерностей, сохраняется инцидентность граней). Поэтому комбина­
торная структура границы выпуклой оболочки в К имеет п — 1 период. Столько же
периодов имеет и граница выпуклой оболочки в К, оснащенная любыми G L ( Z ) - N

инвариантами.
Комбинаторную структуру (п — 1)-мерной границы выпуклой оболочки целых
точек в симплициальном n-мерном конусе, оснащенную теми или иными локальными
СЬ„(2£)-инвариантами, мы и хотели бы назвать (п — 1)-мерной дробью. Однако пока
мы еще не знаем, какие именно инварианты полезно брать.
Мы вычислили границы выпуклых оболочек в инвариантных конусах некоторых
SL3(Z)-onepaTopoB. Один из этих операторов есть трехмерный аналог двумерного
/ 1 1 1 \ / 0 0 1
2
оператора Фибоначчи А = [ 1 2 2 1 = а , где а = 0 1 1
V 1 2 3 / \ 1 1 1
Замечание. Как стало известно автору при подготовке рукописи, выпук­
лую оболочку для трехмерного оператора Фибоначчи 30 лет назад вычислил
А . Д . Брюно (но не опубликовал результат) и одновременно с автором ее вычислил
Ж . Лашо [6].

148
 Рядом с проекцией каждой точки отмечена ее х-координата. Фундаментальная область за­
2
штрихована. Операторы А и В = {А — Е) /А сдвигают ее вдоль пунктирных и сплошных ребер
соответственно. Из двух заштрихованных треугольников левый нижний находится на расстоянии
1 от О, правый верхний — на расстоянии 2

Для оператора Фибоначчи А границы оболочек в его восьми инвариантных ко­

нусах выглядят следующим образом. Все 8 границ изоморфны между собой: они
переставляются операторами — E, а и (А — Е). Операторы сдвигов вдоль периодов
2 2
в каждом из конусов суть А = а и В = (А — Е) /А. На рис. 3 изображена проекция
границы оболочки на плоскость (z,y) вдоль оси х. Э т а проекция устанавливает
гомеоморфизм между границей оболочки и плоскости.
Гораздо лучше периодическая структура оболочки видна при другом гомомор­
физме. А именно пусть tii, t*2, из — координаты вдоль собственных прямых опера­
тора А. Возьмем границу выпуклой оболочки в конусе К : щ > 0. Спроецируем
ее вдоль лучей, проходящих через О, на "обобщенную гиперболу" — поверхность
tiiti2ti3 = 1. Затем эту поверхность отобразим на гиперплоскость v\ + v + v$ = 0 в
2

3
пространстве Ж с координатами ^1,^2,^3 отображением v,- = lnu,.
Образ границы оболочки при композиции описанных двух гомеоморфизмов пред­
ставлен на рис. 4.

149
 Рис. 4. Граница оболочки в сооственном конусе оператора Фибоначчи А после композиции
однородного проектирования на обобщенную гиперболу и логарифмической ее развертки

2
Операторы В и (А — Е) сдвигают фундаментальную область соответственно вдоль пунктир­
ных и сплошных ребер. Треугольник с меньшей площадью проекции находится на расстоянии 1
от О, с большей площадью — на расстоянии 2

Фундаментальная область (т.е. часть границы, которая операторами сдвига

разносится без наложений на всю границу) состоит из двух треугольников, имеющих
общее ребро (см. рис. 3).
Оба треугольника имеют целочисленную площадь 1. Целочисленное расстоя­
ние от плоскостей треугольников до О равно 1 для одного треугольника и 2 —
для другого. Если обобщить определение нецелочисленной длины периода для од­
номерных границ, то можно считать, что период для оболочек Фибоначчи равен 1
(одна точка группой, порожденной операторами — Е, В, (А — Е), разносится на все
целые точки границ) или период равен 2 (фундаментальная область имеет суммар­
ную площадь 2). (Различные числа получились из-за того, что неудачно определили
целочисленную площадь минимального треугольника. Обычно ее полагают равной
1/2.)
Тем самым период оболочек Фибоначчи — минимально возможный.
Основное наше утверждение устанавливает, что перечисленный набор локаль­
ных GL з(2)-инвариантов достаточен для однозначного восстановления выпуклой
оболочки и конусов.
Теорема 1.1. Пусть некоторый GL з(^)~оператор имеет иррациональные
действительные положительные собственные числа и пусть выпуклые оболочки
во всех его восьми инвариантных конусах GL${Ж)-изоморфны между собой. Если
комбинаторная структура границы оболочки в одном из конусов, оснащенная пло­
щадями граней и их расстояниями до О, изоморфна такой же структуре для гра­
ницы оболочек в собственном конусе оператора Фибоначчи, то собственный ко­
нус и выпуклая оболочка в нем GL з(Ж)-изоморфны собственному конусу оператора
Фибоначчи и выпуклой оболочке в нем.
Следующим нашим результатом мы утверждаем, что среди всех операторов у
оператора Фибоначчи в инвариантном конусе самая простая комбинаторная струк­
тура границы оболочки, оснащенная площадями граней и их расстояниями до О. В
оценке простоты мы позволяем волюнтаризм. А именно сначала мы сравниваем пе­
риоды — чем меньше, тем проще. Если периоды равны, то сравниваем расстояния
от граней до О. Как уже отмечалось, у оболочки Фибоначчи период минимально

150
возможный. А вот расстояние от одной из граней до нуля (см. рис. 2), казалось бы,
можно уменьшить.
Теорема 1.2. Не существует SL^^L)-оператор а с периодом границ оболо­
чек, равным 1, и расстоянием 1 от всех граней до О.

2. Геометрия одномерных границ в ы п у к л ы х оболочек

В этом разделе докажем для границ выпуклых оболочек в углах на плоскости

аналоги теоремы о существовании числа, определяемого цепной дробью, и теоремы
Лагранжа. Чтобы не вникать в частности, всюду будем предполагать, что стороны
углов на плоскости являются иррациональными прямыми.
Предложение 2.1. Следующие условия эквивалентны:
1. Целочисленный треугольник с двумя сторонами, образованными векторами
u и v, имеет площадь 1.
2. Параллелограмм, натянутый на векторы u u v, имеет площадь 2.
3. Параллелограмм, натянутый на векторы и и v, не содержит целых точек,
кроме своих вершин.
4. Определитель, составленный из координат векторов u и v в базисе, свя­
занном с решеткой на плоскости, содержащей и uv, равен 1.
5. Одна (любая) сторона треугольника, образованного векторами и и v, нахо­
дится на расстоянии 1 от третьей вершины треугольника.
Предложение 2.2. Граница выпуклой оболочки целых точек в угле с ир­
рациональными сторонами есть бесконечнозвенная в обе стороны ломаная линия
с вершинами в целых точках. Прямые, содержащие ее ребра, имеют компактные
пересечения с углом и лежат на расстоянии 1 от О. Между ребрами и вершинами
в двух смежных углах имеется взаимно-однозначное соотношение двойственно­
сти с сохранением порядка, определяемое свойством границ: 'каждое ребро границы
оболочки параллельно одному из векторов, соединяющих О с вершинами границы
оболочки в смежном угле и обратно. При этом длина ребра и угол в двойственной
ему вершине равны по величине.
Доказательство. Пусть плоскость разделена четырьмя прямыми на 4
угла: два вертикальных К и К ' и два смежных с ними L и V. Укажем алгоритм
построения четырех ломаных, являющихся границами выпуклых оболочек сразу в
четырех углах, и проверим, что они обладают нужными свойствами.
Найдем целочисленный отрезок в К, продолжение которого пересекает стороны
угла и который лежит на расстоянии 1 от О (доказательство его существования
опустим). Э т о т отрезок будет исходным ребром ломаной в К. Остальные ребра во
всех четырех углах строим так, чтобы удовлетворить условию двойственности. А
именно
Пусть х\ . ) ..,Xk — все целые точки на исходном ребре в К (рис. 5).
Ребро [xi-Cjb] отразим симметрично относительно О и получим ребро [а^а^] в
К'. Вершина у\ в L, двойственная к [xixjt] из К и к [а^ж^] из К', получается
параллельным перенесением в О вектора [а^-хж*]. Ребро в L, двойственное к ж*,

151
 Рис. 5. Построение границ выпуклых оболочек

проводим из yi параллельно к [ x i s * ] . Вторую целую точку на нем, лежащую на

продолжении [з^ж*], обозначим у 2 и последнюю — yi. Затем в К строим ребро,
двойственное к у/, откладывая от ж* отрезок [ x j b , s * + m ] параллельно отрезку [0,у/]
(на рис. 5 не изображено), и т.д. до бесконечности. О т у\ двигаемся в другую
сторону, откладывая от него ребро, двойственное к х' , затем от х\ откладывая ре­
х

бро, двойственное к концу предыдущего ребра, и также до бесконечности. Отражая

построенные ломаные относительно О, достраиваем ломаные в К и К* и строим
ломаную в V

Каждое следующее построенное ребро, как и исходное, лежит на расстоянии 1

от О. Так, например, второе ребро [yi, у*] лежит на расстоянии 1 от О, поскольку в
параллелограмме [ж*, О, yi, Уг] нет целых точек. Компактность пересечения очевид­
на. Поэтому все построенные ребра (их продолжения) являются опорными прямыми
к выпуклым оболочкам в своих углах. Отсюда несложно вывести, что построенные
ломаные являются границами оболочек. Равенство величин углов и длин для двой­
ственных вершин и ребер проверим для вершины ж* и ребра [yi, у/]. Для измерения
угла в Xk возьмем векторы единичной длины вдоль его сторон. Тогда угол будет
равен площади треугольника, натянутого на эти векторы. Но по построению векто­
ры, идущие вдоль сторон угла, в точке ж* равны векторам Оу\ и Оу/. Поэтому угол
равен площади треугольника [ 0 , y i , y j ] . Поскольку [yi,yj] лежит на расстоянии 1 от
О, площадь этого треугольника равна длине стороны [yi, у/].
Предложение 2.3. Любая из двух заданных структур границ выпуклых
оболочек целых точек в углах на плоскости однозначно, с точностью до GL (Z)-
2

изоморфизма, определяет пару прямых, являющихся сторонами углов:

1) комбинаторная структура бесконечнозвенной в обе стороны ломаной, осна­
щенная длинами ребер и углами между соседними ребрами;
2) комбинаторная структура двух бесконечнозвенных в обе стороны ломаных
с фиксированным соотношением двойственности между вершинами одной и ре­
брами другой, оснащенная длинами ребер.

152
 Рис. 6. Построение границы оболочки по заданным длинам и углам

Доказательство. Из соотношения двойственности следует, что пп. 1)

и 2) предложения эквивалентны. Докажем п. 1).
Покажем, что всегда можно и притом однозначно с точностью до GL 2 ( ^ - и з о ­
морфизма построить выпуклую ломаную с заданными длинами и углами с условием,
что все ребра лежат на расстоянии 1 от О, и проверим, является ли такая ломаная
границей выпуклой оболочки целых точек в некотором угле (рис. 6).
Построим сначала единичный отрезок XQX' , лежащий на нулевом ребре ломаной
0

хох[. Отрезок хох' лежит на расстоянии 1 от О, поэтому векторы Охо и Ox' обра­
0 Q

зуют базис в 1?. Следовательно, начальный отрезок жоЖд существует и единствен

с точностью до GL г(^)-изоморфизма. Дальнейшие построения возможны и одно­
значны. Строим конец х\ нулевого ребра жож' удлиняя начальный отрезок ж о Ж д в
1}

нужное число раз. Затем строим единичный отрезок Х\х\ на следующем ребре х\х' .
2

Для того чтобы Ж1Ж1 лежал на расстоянии 1 от О, точка х\ должна лежать на пря­
мой /, параллельной отрезку Ох\ и лежащей на расстоянии 1 от О . Для того чтобы
угол в вершине х\ равнялся заданной величине <р\, точка х[ должна лежать на пря­
мой га, параллельной жож^ и лежащей на расстоянии <р\ от него. Дополнительные
условия выпуклости ломаной и отделимости от О позволяют однозначно выбрать,
по какую сторону от указанных отрезков надо проводить прямые / и га. Э т и две
прямые всегда пересекаются в целой точке. Она и есть х\. Вектор xix\ при этом
всегда получается единичным. Вторую вершину ж 2 второго ребра находим, удлинив
единичный вектор х\х[ на нем в нужное число раз. И т.д. Аналогично, двигаясь
в другую сторону, строим вершины ж _ 1 , ж _ 2 , . . . Стороны угла, в которых постро­
енная ломаная является границей выпуклой оболочки, суть предельные положения
при к —• + о о и к —» —оо лучей, проходящих через О и ж*.

Теорема 2.4 (Лагранж). Две иррациональные прямые инвариантны отно­

сительно некоторого GL (Ъ)-оператор а тогда и только тогда, когда
2 выполнено
любое из двух условий:

153
 1) комбинаторная структура границы выпуклой оболочки в одном из углов,
образованных прямыми, оснащенная длинами ребер и углами между соседними ре­
брами, периодична;
2) комбинаторные структуры границ оболочек в двух смежных углах, осна­
щенная длинами ребер, периодичны.
Доказательство. Опять в силу двойственности достаточно доказать
п. 1) теоремы.
Если прямые инвариантны относительно некоторого GL 2(^)-оператора Л, то
2
угол между ними инвариантен относительно Л . Поэтому выпуклая оболочка инва­
2
риантна относительно Л , откуда следует периодичность границы. Обратно, пусть
граница периодична с периодом к. Перенумеруем элементы границы, сдвинув ну­
мерацию на ib. В силу периодичности получим ту же самую комбинаторную струк­
туру, оснащенную длинами и углами. Из предложения 2.3 следует, что существует
G L 2 ( 2 £ ) - o n e p a T o p Л, переводящий исходную ломаную в перенумерованную. Иначе
говоря, оператор Л сдвигает границу вдоль периода. Следовательно, и выпуклая
оболочка точек в угле, и сам угол, и его стороны инвариантны относительно Л.
Замечание 2.5. Если комбинаторные структуры границ оболочек в двух
смежных углах, оснащенные длинами ребер, периодичны и равны между собой, т о
существует GL2(2£)-onepaTop Л, сдвигающий оболочку в каждом из углов вдоль пе­
риода, и GL г(^)-оператор В, переставляющий оболочки между собой. Умножая В
на подходящую (положительную или отрицательную) степень оператора Л, можно
т 1 2
найти оператор В' = ВА такой, что (В ) = А. Оператор В' различает самый
короткий период цепной дроби, соответствующей собственному направлению опера­
тора Л.

3. П е р и о д и ч н о с т ь оболочек в и н в а р и а н т н ы х конусах
о п е р а т о р о в из GL (Z)
N

В этом разделе мы по-своему сформулируем и докажем известную теорему о

периодичности многомерной границы выпуклой оболочки (см., например, [7]). При
этом реализуем действие G L ( Z ) - o n e p a T o p a как умножение на число в подходящем
N

алгебраическом расширении поля рациональных чисел. Такой реализацией иногда

будем пользоваться в дальнейшем. Доказательства используемых нами сведений из
теории чисел можно найти в работе [8].
Определение 3.1. Полным модулем в конечном расширении Р степени n
поля рациональных чисел Q называется произвольная аддитивная подгруппа из Р
ранга п.
В дальнейшем рассматриваем только полные модули и слово "полный" часто
опускаем.
Всякий полный модуль имеет базис, состоящий из п линейно независимых над Q
элементов. Любой элемент модуля есть целочисленная комбинация базисных элемен­
тов. Таким образом, в полном модуле имеется структура п-мерной целочисленной

154
 N
решетки Z . Э т а решетка вложена в поле Р, имеющее структуру n-мерного линей­
ного пространства над Q. Овеществим это линейное пространство и будем считать,
П
что модуль вложен также в Ж .
Умножение элементов поля Р на один фиксированный элемент из Р является
n П
линейным оператором в Q , действие которого продолжается на Ж . Элемент а E Р
называется единицей модуля М , если a M = M. Таким образом, единицы модуля
П
— это такие линейные операторы в Ж , которые реализуются как умножение на
элемент из поля и которые являются изоморфизмами решетки модуля.
Предложение 3.2. Для любого оператора A E G L ( S ) , n характеристи­
ческий многочлен \ которого неприводим, найдется модуль M в алгебраическом
расширении Q, порожденном корнем а многочлена \ , для которого et является
n
единицей и действие его умножением в M изоморфно действию А в 7L .
n
Доказательство. В Z выберем произвольный вектор е. Векторы
2 п 1
е, Ае, А е,..., А~е линейно независимы, так как иначе у оператора А имелось бы
инвариантное подпространство и характеристический многочлен х был бы приво­
a l
дим. Выразим базис { е , } решетки Z N
через эти векторы: с,- = Yl ijA*~ e } где
a 1
%j G Q. Те же линейные комбинации /,• = J^a^o^'" степеней корня а многочлена
X образуют базис модуля М.
Ниже сформулируем теорему Дирихле лишь для частного случая алгебраиче­
ского расширения поля Q, все автоморфизмы которого в поле комплексных чисел
действительны.
Теорема 3.3 (Дирихле). Пусть поле Р порождено корнем а рационально­
го неприводимого многочлена \ степени п, все корни которого действительны,
и M — полный модуль в Р. Тогда группа единиц модуля M является прямым
произведением п — 1 бесконечных циклических групп и группы { i l } .
Рассмотрим теперь многомерный аналог цепной дроби. Пусть К — симплици-
П
альный конус в Ж (т.е. К состоит из неотрицательных линейных комбинаций п
П
линейно независимых векторов из Ж ) . Обозначим через V(K) выпуклую оболочку
всех целых точек из К, исключая О, и через dV(K) — границу оболочки.
Следующие свойства V(K) и dV(K) доказаны в работе [7] для инвариантных
конусов SL n (^)-операторов и в [6] для произвольных иррациональных конусов.
Предложение 3.4. Пусть границы n-мерного симплициального конуса
К и двойственного к нему конуса К' не содержат целых точек. Тогда выпуклая
оболочка целых точек V(K) и ее границы обладают следующими свойствами:
V(K) есть замкнутое множество;
любая опорная гиперплоскость H к V(K) компактно пересекает конус К;
п п
соответствующая грань множества V(K), т.е. пересечение H C\V(K), со­
впадает с выпуклой оболочкой конечного множества H П К H Z " , в частности
является выпуклым многогранником;
граница dV(K) является объединением (п—1)-мерных "граней" оболочки V(K);
П _ 1
граница dV(K) гомеоморфна пространству Ж . Линейный гомеоморфизм
можно получить, например, спроецировав границу dV(K) вдоль любого внутрен-

155
него луча из К на любую опорную гиперплоскость к V(K). Образ граней при ли­
п _ 1
нейном проецировании устанавливает разбиения Ж ко конечные выпуклые мно­
гогранники.
Назовем (п — 1)-мерным аналогом цепной дроби комбинаторную структуру гра­
ницы оболочки dV(K), оснащенную теми или иными локальными GL ^ ^ - и н в а р и ­
антами.
Пусть теперь конус К инвариантен относительно некоторого оператора A G
G GL (Z). N Очевидно, что выпуклая оболочка V(K) и ее граница dV(K) также
инвариантна относительно А. Тем самым оператор А действует на dV(K).
Теорема 3.5. Пусть GL {7£)-оператор А имеет неприводимый
п характе­
в с е
ристический многочлен х> корни которого действительны. Такой оператор
А имеет действительный собственный базис. Пусть К — конус, натянутый
на такой базис. Тогда на границе оболочки dV(K) действует свободная абелева
группа с п — 1 образующей. Фактор оболочки dV(K) по действию этой группы
является (п — \)-мерным тором.
Доказательство. Согласно предложению 3.2 действие оператора А в
1
I7 можно реализовать как умножение на число в подходящем модуле M алгебраиче­
ского расширения Q, порожденного корнем многочлена х- Согласно теореме Дирихле
в модуле M действует свободная абелева группа G с п — 1 образующей. Поскольку
все операторы из G коммутируют с Л, имеющим различные собственные значения,
собственный базис для А является собственным и для всей G. Возьмем в G подгруп­
2 2
пу G , состоящую из квадратов элементов. Группа G имеет n— 1 образующую. Она
действует на внутренность конуса К без неподвижных точек. Следовательно, груп­
2
па G действует на dV(K) также без неподвижных точек и фактор по ее действию
является (п — 1)-мерным тором.
Группа линейных GL (Z)изoмopфизмoв, действуя на многогранной поверхности,
N

сохраняет, очевидно, ее комбинаторную структуру и любые ее локальные G L ( Z ) - N

инварианты. Тем самым комбинаторная структура границы оболочки, оснащенная

любыми локальными GL (2£)-инвариантами, в собственном конусе оператора А с
п

п — 1 неприводимым характеристическим многочленом имеет п — 1 период.

Замечание 3.6. У каждого оператора A G G L „ ( Z ) с различными поло­
П
жительными собственными числами имеется 2 инвариантных конуса. Выпуклые
оболочки в противоположных конусах К и —К> очевидно, GL „(^)-изоморфны между
n _ 1
собой (переводятся друг в друга оператором —Е). В оставшихся 2 конусах обо­
лочки, вообще говоря, могут быть различными. В разд. 4 приведен пример G L ( Z ) - N

оператора, у которого даже комбинаторные структуры оболочек в разных конусах

различны.
Замечание 3.7. Быть может, более естественно границы оболочек ста­
вить в соответствие не оператору, а модулю. А именно: пусть Р — алгебраическое
расширение степени п поля Q, все автоморфизмы которого в С действительны. Все
элементы поля Р, действуя умножением, имеют один и т о т же собственный базис
в овеществлении линейного пространства поля Р. По каждому модулю M можно

156
 П
построить 2 выпуклых оболочек в соответствующих инвариантных конусах. Ту
же систему конусов и оболочек получим для любого из GL (Z)-onepaTopoB, соот­ N

ветствующих единицам этого модуля М.

Предложение 3.8. Пусть А — GL (Z)-оператор n с неприводимым ха­
рактеристическим многочленом и В — GL (Ж)-оператор, п коммутирующий с А.
Тогда В есть многочлен степени п — 1 от А, т.е. оператор В реализуется как
единица того же модуля, что и оператор А.
Доказательство. Поскольку характеристический многочлен операто­
п 1
ра А неприводим, для любого вектора е все векторы е, Ае,..., А~е линейно не­
п
зависимы, т.е. являются базисом в Ш . Взяв е из получим целочисленный ба­
зис, в котором вектор Be раскладывается с рациональными коэффициентами Be =
n l n _ 1
= boe + b\Ae +.. .+ b -\A ~ e.
n Покажем, что тогда В = bo • 1 + &iA + . . . + b _ i A n .
Для этого достаточно проверить действие левой и правой части на базисе. Имеем

k к к n l
B(A e) = А (Ве) = А (Ь е 0 + Ь Ае + . . . + b -iA ~ c)
г n =

k n 1 k n l k
= bAe 0 + M • A*e + . . . + b - A ~ A e n l = ( 6 • 1 + 61Л + . . . +
0 b . A - )A e.
n x

4. Некоторые примеры двумерных цепных дробей

Мы посчитали выпуклые оболочки в инвариантных конусах для двух однопара­

метрических (с дискретным параметром) серий S L 3 ( Z ) - o n e p a T o p o B , каждая из ко­
торых начинается оператором Фибоначчи. Часть вычислений проводилась на ком­
пьютере, однако ответы можно проверить и вручную.
Напомним, что трехмерным оператором Фибоначчи мы называем оператор
/ 0 0 1 \ / 1 1 1
2
А = а , где а = I 0 1 1 , т.е. А = 1 2 2
\ 1 1 1 / \ 1 2 3
Предложение 4.1. У оператора А имеется 3 разных иррациональных
действительных положительных собственных числа. Все 8 конусов, натянутые
на собственные векторы оператора A, GLз(2)-изоморфны между собой. Изомор­
физмы осуществляются операторами ±Е, ±а, ±(А — Е) и ±а(А — Е). Группа
операторов, оставляющих решетку и каждый из конусов на месте, порождена
2
операторами А и В — (А — Е) /А. Фундаментальная область границы выпуклой
оболочки в каждом из конусов состоит из двух треугольников А\ — (е,Ае,2?е) и
Д 2 = (Ле, Be, АВе), где е — произвольная вершина выпуклой оболочки. Одной из

вершин одной из оболочек является точка ( 0 1 . Каждый из треугольников Ai

\о/
и А 2 имеет целочисленную площадь 1. Плоскость первого треугольника лежит
на расстоянии 1 от О, плоскость второго — на расстоянии 2 (см. рис. 3).
Доказательство. Остановимся лишь на некоторых моментах.
Два параллелепипеда, Щ и Пг, образованные векторами, идущими из О в вер­
шины треугольников A i и Дг, имеют объемы 1 и 2 соответственно. Следовательно,

157
в Iii нет целых точек, кроме вершин, поэтому их нет и в симплексе Si, натянутом
на О и A i . В П2 есть целая точка. Она находится в центре П2, поэтому в симплексе
S2, натянутом на О и Дг, тоже нет целых точек. Операторами А и В пара сим­
плексов Si и S2 разносится на всю внутренность конуса, лежащую вне поверхности,
образованной образами треугольника A i . и А2 по действием А и В. Следовательно,
вне построенной поверхности целых точек нет.
Проверим еще, что эта поверхность выпукла. Если на поверхности, образован­
ной треугольниками A i и Дг, ввести какую-нибудь ориентацию, то лучи, исходящие
из О, будет пересекать эту поверхность с одной стороны, так как симплексы Si и S2
пересекаются лишь по границе. Свойства лучей пересекать поверхность с одной сто­
роны сохранятся при действии операторов А и В. Следовательно, наша поверхность
однозначно проектируется на любую плоскость, компактно пересекающую конус.
Для выпуклости такой поверхности достаточна ее локальная выпуклость. Послед­
нюю достаточно проверить для трех сторон треугольника Дх, что легко сделать.
Далее используем реализацию SL з(2£)-операторов в виде единиц для подходящих
модулей подходящих кубических расширений поля Q.
Пусть X — корень уравнения

3 2
X - (m + \)Х + тХ - 1 = 0, (1)

или
3 2
X - (m + 3 ) Х + тХ + 1 = 0. (2)

Обозначим через Р кубическое расширение поля Q, порожденное элементом X, и

2
через M — модуль в нем с базисом {1,Х,Х }. Оператор умножения на элемент из
поля будем обозначать той же буквой, что и сам элемент.
Предложение 4.2. 1. Уравнения (1) и (2) неприводимы. Уравнение (1)
при m > 5 « уравнение (2) при любых m имеют только действительные корни, и,
следовательно, поле Р имеет три плоскости, инвариантные относительно умно­
жения на элементы поля, которые делят овеществление трехмерного линейного
пространства поля на 8 симплициальных конусов.
2. Для уравнения (1) при т = 5 конусы и оболочки изоморфны конусам и оболоч­
кам Фибоначчи. При m > 5 четыре конуса изоморфны между собой, изоморфизмы
суть ± 1 и ±(Х — 1). Группа периодов в одном конусе порождена элементами X
2
и Y, где Y = (X — 1) /Х. Фундаментальная область границы оболочки в конусе,
содержащем 1, состоит из двух треугольников ( 1 , Х , Y) и (X, У , X Y ) . Оба тре­
угольника имеют площадь 1. Расстояние до нуля от плоскости первого треуголь­
ника равно \, от плоскости второго равно m — 1. Для m = б граница оболочки в
одном из конусов приведена на рис. 7.
3. Для уравнения (2) конусы и оболочки для m и ( - г а - 3) изоморфны между
собой. Для га = — 1 и m = — 2 они изоморфны конусу и оболочке Фибоначчи. Для
любых m все 8 конусов изоморфны между собой. Изоморфизмы осуществляют­
2 2
ся операторами ± 1 , ±Х, ±(Х - 1), ±Х(Х - 1). Пусть <р = X , ф = (X - I ) .
Фундаментальная область границы оболочки в одном из конусов состоит из двух

158
 Рис. 7. Граница выпуклой оболочки в одном из конусов для оператора умножения на х,
3 2 2
удовлетворяющего уравнению г — 7х -f 6х — 1 = О в базисе 1, г, х

Изображена проекция фундаментальной области на первые две координаты вдоль вектора

( — 1 , - 1 , 1 ) . Рядом с вершинами отмечены их координаты до проецирования. Операторы сдвигов
вдоль периодов совмещают границы области, помеченные одинаковыми типами линии

треугольников A i = (1,у?, V>) « А2 = (<Р,Ф,<рФ)- Первый треугольник имеет пло­

щадь 1 и его плоскость находится на расстоянии 2 от нуля. Второй треугольник
2
имеет площадь m -f 3m -f 3 u находится на расстоянии 1 от нуля.
Доказательство этого предложения подобно доказательству предыдущего.

5. Г е о м е т р и я г р а н и ц в ы п у к л ы х оболочек

Для оболочек в двумерных смежных конусах, т.е. углах на плоскости, имеется

соотношение двойственности (предложение 2.2): всякое ребро оболочки, будучи пе­
ренесенным в начало координат, проходит через вершину оболочки в смежном угле.
Для конусов большей размерности это свойство не выполнено. Однако перенесенные
в О ребра проходят через другой, более широкий класс точек в смежных конусах,
через так называемые минимальные точки. Это свойство ребер позволит нам в
дальнейшем выписать конечный набор уравнений, которым должны удовлетворять
изоморфизмы границ оболочек с той же структурой, что и оболочка Фибоначчи, или
с более простой структурой.

159
 Определение 5.1. Целая точка в конусе называется минимальной в нем,
если она не является суммой никаких двух других ненулевых целых точек из того
же конуса.
Легко видеть, что каждая целая точка, лежащая на границе выпуклой оболочки,
является минимальной. Обратное верно лишь для двумерных конусов.
п п
Предложение 5.2. Пусть Ж разбито п плоскостями на 2 симплици-
к
альных конуса. Вектор единичной длины на любом из ребер выпуклой оболочки в
одном из конусов, будучи перенесенным в О, оканчивается в одной из минимальных
П
точек в одном из оставшихся 2 — 2 (учитывая симметричный) конусов.
Доказательство. Пусть v — единичный вектор и точки Р и Р 4- v
принадлежат одному ребру границы оболочки в конусе К. Поскольку Р и P -f v —
минимальные точки в К, вектор v не принадлежит ни К, ни —К. Следовательно,
П
v G К\ где К* — один из оставшихся 2 — 2 конусов. Допустим v — не минимальная
1
точка в К . Тогда v = и + ги, где u,w G К\ и, поскольку вектор t; — единичный,
векторы и и w не пропорциональны вектору v.
Выберем координаты, идущие вдоль ребер конуса К' и положительные на них.
Тогда координаты векторов v, и и w будут положительны и v,- < tx,-, Vi < tu,-. В силу
этих неравенств векторы P + и и P + w принадлежат конусу К. Следовательно,
выпуклая оболочка в К содержит параллелограмм с вершинами P, P + u , P+v, P+w.
Отрезок [P, P -f v] является диагональю этого параллелограмма, следовательно, не
может являться частью ребра выпуклой оболочки.
Определение 5.3. Разобьем границу выпуклой оболочки каким-нибудь
образом на симплексы. Граничными кубами в конусе (определяемыми данным сим-
плициальным разбиением) назовем кубы, натянутые на каждую тройку векторов,
идущих из О в вершины симплекса.
Предложение 5.4. Для любого симплициального разбиения границы вы­
пуклой оболочки в конусе все минимальные точки либо являются вершинами сим­
плексов, либо лежат строго внутри граничных кубов.
Доказательство. Любая точка Р из конуса принадлежит одному из
конусов, натянутых на симплексы. Если v\,..., vn — вершины такого симплекса,
Q v Q
то Р = ^2 î ii i > 0- Соответствующий этому симплексу куб выделяется условием
а,- < 1. Если точка Р лежит вне этого куба, то одно из а* > 1. Тогда

Если Р — минимальная точка, выражение в квадратных скобках равно нулю и Р

совпадает с вершиной симплекса и*.
Следствие 5.5. Для любых симплициальных разбиений границ оболочек
в конусах единичный вектор любого ребра оболочки, будучи перенесенным в О,
либо является вершиной симплекса, либо лежит строго внутри граничного куба
в одном из оставшихся конусов.

160
 6. С в о й с т в а изоморфизмов с а м ы х п р о с т ы х д в у м е р н ы х о б о л о ч е к

Самыми простыми оболочками мы называем простые и сверхпростые оболоч­

ки (последних, как мы докажем, не существует). Простые оболочки определяются
условиями: они ОЬз(2£)-изоморфны между собой во всех восьми конусах и имеют т у
же комбинаторную структуру, оснащенную площадями граней и их расстояниями
до О, что и оболочка Фибоначчи (см. разд. 4). Сверхпростые оболочки определяют­
ся всеми перечисленными выше свойствами с одним исключением — расстояния о т
всех их граней до О равны 1 (у Фибоначчи есть расстояние 2). Для того чтобы в
дальнейшем доказать, что самая простая оболочка существует ровно одна, а именно
оболочка Фибоначчи (см. теоремы 1.1 и 1.2), в этом разделе устанавливаем свойства
СЬз(2£)-изоморфизмов соответствующих конусов.

Фундаментальная область границы самой простой оболочки состоит из двух тре­

угольников, поэтому сдвиг оболочки вдоль любого из ребер является сдвигом на
(минимальный) период и, следовательно, задается некоторым СЬз(2)-оператором.

На границе оболочки типа Фибоначчи треугольник, находящийся на расстоя­

нии 2 от О , обозначим Д и так же обозначим любой из треугольников сверхпростой
оболочки. SL з(2)-операторы сдвигов вдоль последовательных ребер треугольника
1
А обозначим А, В, (AB)" .

Предложение 6.1. Существуют SL $(Ъ)-изоморфизмы а и ß, переста­

2
вляющие между собой конусы, такие, что or ~ А, ß - В, det с* = det/? = 1.

Д о к а з а т е л ь с т в о . Пусть Д и 1^ — СЬз(2£)-изоморфизмы, переставля­

ющие конусы К и К\, К и # 2 соответственно, где все конусы из набора К, —К, К\,
2
—К\, Кг, —Ä2 различны. Каждый I (* = 1,2) оставляет конусы на месте, поэтому
2 ki li
I = A B, где hi, U — целые числа. Поделив Д- на подходящие степени операторов
А и В и оставив те же обозначения для новых операторов, можно добиться того,
2 2
чтобы к{ и Ii равнялись каждый 0 или 1. Квадраты операторов I и I не равны
между собой. Действительно, их можно реализовать как элементы кубического рас­
2
ширения поля Q . В поле существуют лишь два корня из элемента I . Они суть 1 \
2
и т.е. не равны / г . Поэтому операторы I равны двум разным операторам из
набора А, В, AB. Заменяя, если надо, один из операторов 7,- на U/Ij и меняя, если
надо, знак перед оператором на " —", получаем требуемое.
Мы говорим, что два оператора СЬз(2£)-изоморфны между собой, если их част­
ное есть СЬз(2)-оператор.
1
Операторы (А — 1), (В — 1), ((AB)" — 1) переводят вершину оболочки в вектор
одного из ребер, т.е. в минимальную точку одного из других шести конусов. Ми­
нимальные точки в конусе со сверхпростой оболочкой — это лишь ее вершины, по­
скольку все граничные кубы имеют объем 1. Минимальные точки в конусе с простой
оболочкой — это ее вершины и центры кубов, натянутых на грани, лежащие на рас­
1
стоянии 2 от О. Следовательно, каждый из операторов (А — 1), (В — 1), ((AB)" — 1)

6 Труды МИРАН. Т. 209. 161

— это GL з(2)-изоморфизм или СЬз(2)-изоморфен оператору M = (1 + A + АВ)/2 У

переводящему вершину оболочки в центр граничного куба.

1
Предложение 6.2. Если два из операторов (А — 1), (В— I), ((AB)" — 1)
GL 3(Z)-изоморфны оператору M, то третий тоже им изоморфен.
Доказательство. Оператор M целочисленный, но не изоморфизм ре­
шетки (изоморфизм сохраняет выпуклую оболочку), значит, | d e t M | > 1. Оператор
1
((AB)" — 1) = (1 — AB)/AB СЬз(2£)-изоморфен оператору (AB — 1). Имеем равен­
ство
AB - 1 AB - 1 - AB + A _ A - l
B - l ~ B - l ~ В - 1'
A и
Поэтому операторы gZ\ JT-t делочисленны одновременно.

Допустим, операторы (А — 1) и (В — 1) изоморфны оператору M . Тогда их

частное — изоморфизм, в частности целочисленный оператор. Тогда и оператор
A
ßZ\ целочисленный. Поэтому |det (^4J5 — 1)| > | d e t ( # — 1)| = | d e t M | > 1. Значит,
1
оператор (AB — 1), а вместе с ним и оператор ((AB)" — 1) — не изоморфизмы. Так
1
что для оператора ((AB)" — 1) реализуется вторая возможность: быть изоморфным
оператору М. Для двух других пар операторов доказательство аналогично.
Предложение 6.3. С точностью до переобозначения ребер треугольни­
ка А в другом порядке и смены их ориентации возможны лишь следующие случаи:
1) det (A-l) = ±det (В - 1) = 1,
1
2) det (А - 1) = det (В - 1) = ±det ((AB)" - 1) = N, где N есть одно из чисел
1,3,9,27.
1
Доказательство. Если два из операторов (А — 1), (В — 1), ((AB)" — 1)
— изоморфизмы, то заменой порядка и ориентации ребер треугольника А получаем
случай 1).
В противном случае все три оператора изоморфны оператору M.
Выберем два ребра треугольника А так, чтобы соответствующие им сдвиги
удовлетворяли условию det (А — 1) = det (В — 1) = D. Изменяя их порядок (и ори­
ентацию), добиваемся того, чтобы D было положительным. При этом, очевидно,
1
((AB)" — 1) = ±Z>. Проделаем следующие выкладки. Оператор С = M/(А — 1) —
изоморфизм. Но

1 + A -h AB _ 2А-2-А + 3 + АВ _ А(В - 1) 3
1 + +
2(4-1) " 2(Л-1) ~ 2(А~ 1) 2(А-I)'

Поскольку С — изоморфизм, оператор 2С целочисленный. При этом 2С = 2 + А(В —

\)/(А — 1) -f Ъ/(А — 1). Первые два слагаемых, очевидно, целочисленные операторы.
Следовательно, последнее слагаемое тоже. Поэтому d e t ( 3 / ( 4 — 1)) — целое число.
Но
3 d e t
d ( ^ = (3) = 27
6
\A-IJ det(4-1) det(4-1)'

Следовательно, det ( 4 — 1) является делителем 27, т.е. равен 1, 3, 9 или 27.

162
 3 2
Возможные коэффициенты для уравнений х + тх + пх — 1 = О
изоморфизмов самых простых оболочек
(справа — дискриминанты соответствующих уравнений).

N m n Дискриминант N m n Дискриминант
1 2 -1 49=7 2
9 6 3 729 = 2 7 2

0 -1 -23 -4 -5 257

3 3 -2 257 27 15 -14 72329

-1 0 -31 -13 12 11417
3 0 81 = 9 2

7 -4 2889
-1 -2 -31 -5 2 -279
9 6 -5 2777 7 2 1257
-4 3 -31 -5 -4 -231
4 -1 321 15 12 35721 = 189 2

-2 -1 -87 -13 -14 32009

2 2
Следствие 6.4. Операторы et и ß из предложения 6.1 (et = A, ß = В,
det а = det/? = 1) удовлетворяют одной из систем уравнений:
3 2
et + mit* + nia - 1 = 0,
3 2 ( 3 )
/ ? + m / ? + n / ? - l = 0; 2 2

3 2
a -f raicv -h nia - 1 = 0,
3 2
ß + mß 2 + n ß - 1 = 0,
2 (4)
3 2
(а/?)- + га (а/?)-3 -f n (ctß) - 1 = 0;
3

3 2
a -h raia -f nia —1 = 0,
3 2
ß -f m / ? + n /ï - 1 = 0,
2 2 (5)
3 2
(a/?) + ra (a/3) 3 -f n (a/?) - 1 = 0,
3

где коэффициенты га, n <?Л1Г уравнений системы (3) взяты из таблицы для N = 1,
а Ли* уравнений систем (4) и (5) — любого N, но одного и того же для всех
уравнений системы.
Доказательство. Из предложения 6.3 знаем, чему могут равняться
1
определители операторов (А — 1), (В — I) и ((AB)" — 1). Но каждый из этих трех
операторов раскладывается на множители. Например, А — 1 = (а — l)(cv-f 1). Если
det (Л — 1) = N, то det (a — 1) и det (а + 1 ) являются делителями числа N, про­
изведение которых равно N. Зная значения det (а — 1), det (a -f- 1) и det (а) = 1,
знаем значения характеристического многочлена оператора et в трех точках, откуда
многочлен однозначно восстанавливается.

7. Исследование с и с т е м уравнений д л я изоморфизмов с а м ы х п р о с т ы х

оболочек

В этом разделе мы покажем, что по тем или иным причинам ни одна из систем
уравнений, определенных в разд. 6, кроме одной, не задает пару операторов, осу­
ществляющих изоморфизмы самых простых оболочек. А оставшаяся одна система

6 * 163
определяет операторы с оболочкой, изоморфной оболочке Фибоначчи. Мы часто бу­
дем пользоваться реализацией операторов а и ß в виде операторов умножения на
числа в кубическом расширении поля Q.
Для начала заметим, что каждый из операторов а и ß имеет неприводимый
характеристический многочлен, иначе выпуклая оболочка выходила бы на ребро
конуса, соответствующее рациональному направлению.
Предложение 7.1. В кубическом расширении поля Q ни одна из систем
уравнений типа (5) не имеет решения, а системы уравнений типа (4) имеют ре­
1
шения лишь для т\ = ТП2 = газ, щ = пг = пз, т.е. когда ос, ß и (aß)" являются
корнями одного и того же уравнения.
Доказательство. Заметим сначала, что последнее уравнение в систе­
3 2
мах типа (4) эквивалентно кубическому уравнению для (aß): (aß) — n (aß)3 —
—ma(aß) — 1 = 0. Операторы а и ß определяют одно и то же кубическое расши­
рение поля Q (см. предложение 3.8). Пусть <т — какой-нибудь автоморфизм поля,
содержащего а и ß, оставляющий на месте поле Q. Тогда вместе с корнем (а, ß) си­
2 2
стемы уравнений типа (4) или (5) ее корнями являются (aa,aß) и (cr a,a ß). Если
при некотором значении а система из двух последних уравнений

i ^ + ... = 0,
3
\ (а/?) +... = 0

имеет корень относительно ß, то результант этой системы R(a) (являющийся поли­

номом степени 9 относительно а) при этом значении а равен нулю. Поэтому если
система типа (4) или (5^ имеет решение, то система

2
имеет три корня; а, аа и а а. А это может быть лишь в случае, когда полином
3 2
а + mi a -f п\а — 1 делит R(a).
Вычисление результантов и проверка делимости для всех систем уравнений про­
водились на компьютере. Оказалось, что делимость имеется лишь для систем типа
(4) со всеми тремя одинаковыми уравнениями и одной системы типа (5) с коэффи­
циентами для N = 3:

3 2
ß + ß - l = 0,
3 2
(а/?) - (а/?) - 2{aß) - 1 = 0.

Но каждое из уравнений последней системы имеет дискриминант —31, т.е. ком­

плексные корни, а мы ищем операторы со всеми действительными собственными
числами.
1
Следствие 7.2. Операторы а, ß и (aß)" являются корнями одного и то­
го же уравнения.

164
 Доказательство. Для систем типа (4) и (5) этот результат уже полу­
чен. Для систем типа (3) уравнение с m = 0 и n = - 1 не годится, так как имеет
комплексные корни. Так что для et и ß остается первое уравнение из таблицы. Ему
1
же удовлетворяет и (aß)" , так как произведение корней уравнения равно свобод­
ному члену с обратным знаком, т.е. единице.
Лемма 7.3. Для элемента у из кубического расширения поля Q верно сле­
2
дующее: если у E Q, то у E Q.
2 2
Доказательство. Пусть у = a E Q, у & Q. Тогда ( у — а) — ми­
нимальный многочлен, аннулирующий у. Характеристический многочлен является
степенью минимального, но это невозможно для степеней 3 и 2.
Предложение 7.4. Если операторы et и ß удовлетворяют одному и то­
му же кубическому уравнению Р(х) = О, то дискриминант полинома Р является
квадратом действительного числа.
Доказательство. Согласно предложению 3.8 et и ß принадлежат одно­
му и тому же кубическому расширению поля Q. Третий корень уравнения Р(х) = О
рационально выражается через два других корня, поэтому принадлежит тому же
расширению. Тем самым элемент у — (et — ß)(ß — 7)(7 — et) лежит в кубическом рас­
2 2
ширении поля Q. Но у — дискриминант полинома Р, поэтому у E7L. Из леммы 7.3
следует, что тогда у £ Q и, значит, у E 7L.
Следствие 7.5. Операторы et и ß могут быть корнями лишь одного из
уравнений:
3 2
x + 2ж - х - 1 = 0, (6)

3 2
x + 3 * - 1 = 0, (7)

3 2
х + 6ж -f Зж - 1 = 0, (8)

3 2
x + 15ж 4-12» - 1 = 0. (9)
Доказательство. Мы вычислили (на компьютере) дискриминанты
всех полиномов из таблицы. Все уравнения, кроме перечисленных, имеют дискри­
минанты, не являющиеся полными квадратами.
Предложение 7.6. Если один из корней любого из уравнений (6)-(9) обо­
значить х\ = х, то два других корня того же уравнения имеют вид х 2 = — 1 — 1/х,
*з = - 1 / ( * + 1 ) .
Доказательство состоит в простой проверке.
Предложение 7.7. Если et и ß — два корня одного из уравнений (6)-(9),
2 2
то для А — et и В = ß операторы M = (1 -h A -f AB)/2 и (А — 1) неизоморфны.
Доказательство. Наши уравнения таковы, что det (А — 1) = N, где
N = 1 , 3 , 9 , 2 7 для уравнений (6)-(9) соответственно. Достаточно показать, что
det ( M ) ф N. А эти неравенства достаточно проверить для et = х\ у ß = х 2 и et = х2)

ß = х\ — для остальных случаев получим то же самое, применяя автоморфизм поля.

165
 2
Для подсчета определителя запишем оператор ж в базисе 1,ж,ж :

2 2 2 2
В первом случае А = ж , В = (ж 4- 1 ) / ж , M = (14- А + AB)/2 = ж -f-ж 4-1. Искомый
определитель для уравнений (6)-(9) получается равным 7, 9, 27, 189 соответственно,
т.е. не равен N.
Во втором случае определитель d e t ( M ) даже не целочисленный. Для наших
четырех уравнений он равен 4 9 / 8 , 81/8, 729/8, 35721/8.
Следствие 7.8. Операторы (А — 1) и (В — 1) суть GL з(^)-изоморфизмы
и операторы а и ß удовлетворяют уравнению (6).
Следующее предложение эквивалентно теоремам 1.1 и 1.2 Введения.
Предложение 7.9. Самая простая оболочка существует ровно одна с
точностью до GL (Ъ)-изоморфизма
3 } а именно оболочка Фибоначчи.
Доказательство. Поскольку вершинами треугольника А являются точ­
1
ки 1,А,АВ, то точки 1,А, В" являются вершинами смежного с А треугольника,
- 1
находящегося на расстоянии 1 от О. Следовательно, векторы 1 , А , £ образуют
3 1 2 1 2
базис 2£ -решетки. Операторы А и В~ суть А = а , В" = / ? ~ , где а и ß — корни
уравнения (1), т.е. либо 1) ß = — 1 — 1/а, либо 2) ß = — 1/(а -f 1).
l 2 1 1
Рассмотрим сначала 2). Имеем B~ = 1 4 - 2 а + а , А" В = 1 — а. Откуда А" В —
1 l 3
= (В~ — А — 1 ) / 2 , т.е. 1,J4, B~ не образуют базис в Z . Остается единственная
возможность 1), которая в силу своей единственности и должна отвечать оболочке
Фибоначчи.
Автор благодарна В.И. Арнольду за постановку задачи и неизменный интерес к
работе.
Поступило в январе 1994 г.

Л И Т Е Р А Т У Р А

1. Klein F. Ausgewählte Kapitel der Zahlentheorie. Leipzig: Teubner, 1907.

2. Вороной Г.Ф. Одно обобщение цепных дробей //Собр. соч.: В 3 т. Киев: И*зд-во АН УССР.
1952. Т. 1.
3. Minkowski H. Généralisation de la théorie des fractions continues //Ann. Ecole Super. Sér. 3. 1896.
Vol. 13. P. 85-102.
4. Korkina E.I. The simplest 2-dimensional continued fraction //Intern, geometrical colloquium:
Abstracts. Moscow, 1993.
5. Арнольд В.И. Дополнительные главы теории обыкновенных дифференциальных уравнений.
М.: Наука, 1978.
6. Lachaud G. Polyèdre d'Arnold et voile d'un cône simplicial, analogues du théorème de Lagrange.
Prétirage, 1993. 20 p. (Lab. Math. Discrètes; N 93-19. P. 1-20.)
7. Tsuchihashi H. Higher dimensional analogues of periodic continued fractions and cusp singularities
//Tohoku Math. J. 1983. Vol. 35. P. 176-193.
8. Борелич З.И., Шафаревич И.Р. Теория чисел. M.: Наука, 1964.