从OS层面上，建议您监控内存的使用是否逐步在增加，是否达到某一个阈值的时候就会触发该错误。
svmon -G -i 2 2
ipcs -a

按照内存使用对进程进行排序，以发现是哪些进程使用了较多的内存，
su –
#ps avx |head -1 ;ps avx |grep -v PID |sort -rn +6 > ps_avx.output

对于这些进程，查看它们究竟为什么使用了较多内存：
svmon -P <PID>

相关文档可以参考：
AIX: Determining Oracle Memory Usage On AIX [ID 123754.1]
Diagnosing Oracle Memory on AIX using SVMON ( Doc ID 166491.1 )
AIX: Database performance gets slower the longer the database is running [ID 316533.1]