不變子空間問題
正文
線性運算元理論中的一個著名問題。40多年來，人們一直在努力追求其答案，做了大量工作，取得不少成果，但離問題的解決，現在看來還相當遠。設T是復巴拿赫空間Χ上有界線性運算元，M是Χ的閉線性子空間(見巴拿赫空間),如果TM嶅M，稱M是T的不變（閉線性）子空間。當M僅含零元素 {0}或者是全空間Χ時,M不僅是Χ的閉線性子空間,而且是一切有界線性運算元T的不變子空間。稱{0}和X是平凡不變子空間。所謂不變子空間問題是:對任何維數不小於2的復巴拿赫空間上的有界線性運算元，是否必存在非平凡的不變子空間。
當Χ是有限維空間時，任何線性運算元T都有一個若爾當標準型，它不僅表明T有非平凡的不變子空間,而且還完全刻畫了運算元的內部結構。當Χ是不可分空間時,易知任何有界線性運算元必有非平凡不變子空間。因此，不變子空間問題實質上只限於可分的無限維空間上。
如果不變子空間問題的回答是肯定的，則由佐恩引理易知，對任意有界線性運算元，存在一個極大的不變子空間鏈。這將把有限維空間上的線性運算元的若爾當標準型推廣到巴拿赫空間上去的工作推進了一步。因此，不變子空間問題是在運算元理論中占有重要地位的一個基本問題。下面是有關不變子空間問題的主要結果。
與緊性相聯繫的運算元 與有限維空間上運算元相接近的一類運算元是緊運算元。J.馮·諾伊曼在1930年證明：對於希爾伯特空間上任意有界緊運算元，存在非平凡不變子空間。這項工作當時沒有發表。1954年，N.阿龍扎揚和K.T.史密斯用有限秩運算元逼近的方法證明了：對於巴拿赫空間上任何有界緊運算元,存在非平凡不變子空間。1973年，Β.И.羅蒙諾索夫利用紹德爾不動點原理證明了，如果A是巴拿赫空間上與某非零緊運算元可交換的運算元,則存在A的非平凡的不變子空間。有趣的是,與緊性相聯繫的這些結果，證明都不很難。1977年，有人不用紹德爾不動點原理，以很簡單的、初等的方法，再次證明了上述結論。後來，人們又進一步證明了,如果B是巴拿赫空間上的非零緊運算元,則一切使AB-BA為一秩運算元的運算元A,有非平凡的不變子空間；從而推廣了羅蒙諾索夫的結果。
與正常運算元相聯繫的運算元 基於對正常運算元的了解，人們考察了與正常運算元相近的運算元的不變子空間問題。30多年來，這方面的研究取得了重大進展，其中的方法，對研究希爾伯特空間上有界線性運算元有很重要的意義。1949年，A.博靈深入地研究了單位圓周上的哈代空間H2（見Hp 空間）上的乘法運算元U+：U+ƒ(z)=zƒ(z)。關於U+的不變子空間問題，有稱為博靈定理的如下結果：運算元U+沒有非平凡的約化子空間，M是U+的不變子空間的充要條件是M=φH2，這裡φ是H2中幾乎處處等於 1的函式。
1978年W.S.布朗藉助於函式演算的方法證明：次正常運算元(即正常運算元在不變子空間上的限制)皆有非平凡的不變子空間。他的證明方法很快被人們用來證明各種類型的不變子空間存在定理。上面的結果可以推廣到希爾伯特空間上有界線性運算元A。如果對一切極點在運算元A的譜σ(A)外的有理函式ƒ,成立‖ƒ(A)‖≤max｛|ƒ(z)|｜z∈σ(A)｝，那末A有非平凡的不變子空間。近年來有人較大地簡化了布朗結果的證明。
參考書目
H.Radjavi and P.Rosenthal,Invariant Subspaces,Springer-Verlag, Berlin,1973.
夏道行等編著：《實變函式與泛函分析》，下冊，人民教育出版社，1979。
W.S.Brown,Integral Equtions ɑnd Operator Theory,Vol.1,1978.
