こんばんは
＞OSはWindows７で、aviを読み込めないのは最初からです。
aviファイルに対応するコーデックがインストールされていないのではないかと思います（推定です）。
次に、aviファイルをmovファイルに変換したら、読み込み出来たが、今度は書き出しでメモリー不足と表示されるということですね。
ちなみにメモリー搭載量は何GBでしょうか。フレームサイズどれくらいの映像を扱っているのかわかりませんが、たいていは最低8～12GB搭載してあればいいのかなと思います。
うまい回答になっていなくてすみません。