Welcome everybody,especially you! Thanks the god ^_^

发布新日志

  • 负载均衡

    2007-09-12 18:10:23

     在负载均衡的思路下,多台服务器为对称方式,每台服务器都具有同等的地位,可以单独对外提供服务而无须其他服务器的辅助。通过负载分担技术,将外部发送来的请求按一定规则分配到对称结构中的某一台服务器上,而接收到请求的服务器都独立回应客户机的请求。

      提供服务的一组服务器组成了一个应用服务器集群(cluster),并对外提供一个统一的地址。当一个服务请求被发至该集群时,根据一定规则选择一台服务器,并将服务转定向给该服务器承担,即将负载进行均衡分摊。

       通过应用负载均衡技术,使应用服务超过了一台服务器只能为有限用户提供服务的限制,可以利用多台服务器同时为大量用户提供服务。当某台服务器出现故障 时,负载均衡服务器会自动进行检测并停止将服务请求分发至该服务器,而由其他工作正常的服务器继续提供服务,从而保证了服务的可靠性。

       负载均衡实现的方式大概有四种:
    第一是通过DNS,但只能实现简单的轮流分配,不能处理故障;
    第二如果是基于MS IIS,Windows 2003 server本身就带了负载均衡服务;
    第三是硬件方式,通过交换机的功能或专门的负载均衡设备可以实现;
    第四种是软件方式,通过一台负载均衡服务器进行, 上面安装软件。使用Apache Httpd Server做负载平衡器,Tomcat集群节点使用Tomcat就可以做到以上第四种方式。这种方式比较灵活,成本相对也较低。另外一个很大的优点就是 可以根据应用的情况和服务器的情况采取一些策略。
  • Tomcat优化

    2007-09-12 15:59:00

    Tomcat本身不能直接在计算机上运行,需要依赖于硬件基础之上的操作系统和一个java虚拟机。您可以选择自己的需要选择不同的操作系统和对应 的JDK的版本(只要是符合Sun发布的Java规范的),但我们推荐您使用Sun公司发布的JDK。确保您所使用的版本是最新的,因为Sun公司和其它 一些公司一直在为提高性能而对java虚拟机做一些升级改进。一些报告显示JDK1.4在性能上比JDK1.3提高了将近10%到20%。


    可以给Java虚拟机设置使用的内存,但是如果你的选择不对的话,虚拟机不会补偿。可通过命令行的方式改变虚拟机使用内存的大小。如下表所示有两个参数用来设置虚拟机使用内存的大小。

    参数

    描述


    -Xms

    JVM初始化堆的大小


    -Xmx

    JVM堆的最大值


    这 两个值的大小一般根据需要进行设置。初始化堆的大小执行了虚拟机在启动时向系统申请的内存的大小。一般而言,这个参数不重要。但是有的应用程序在大负载的 情况下会急剧地占用更多的内存,此时这个参数就是显得非常重要,如果虚拟机启动时设置使用的内存比较小而在这种情况下有许多对象进行初始化,虚拟机就必须 重复地增加内存来满足使用。由于这种原因,我们一般把-Xms和-Xmx设为一样大,而堆的最大值受限于系统使用的物理内存。一般使用数据量较大的应用程 序会使用持久对象,内存使用有可能迅速地增长。当应用程序需要的内存超出堆的最大值时虚拟机就会提示内存溢出,并且导致应用服务崩溃。因此一般建议堆的最 大值设置为可用内存的最大值的80%。


    Tomcat默认可以使用的内存为128MB,在较大型的应用项目中,这点内存是不够的,需要调大。


    Windows下,在文件/bin/catalina.bat,Unix下,在文件/bin/catalina.sh的前面,增加如下设置:


    JAVA_OPTS='-Xms【初始化内存大小】 -Xmx【可以使用的最大内存】'


    需要把这个两个参数值调大。例如:


    JAVA_OPTS='-Xms256m -Xmx512m'


    表示初始化内存为256MB,可以使用的最大内存为512MB。


    另 外需要考虑的是Java提供的垃圾回收机制。虚拟机的堆大小决定了虚拟机花费在收集垃圾上的时间和频度。收集垃圾可以接受的速度与应用有关,应该通过分析 实际的垃圾收集的时间和频率来调整。如果堆的大小很大,那么完全垃圾收集就会很慢,但是频度会降低。如果你把堆的大小和内存的需要一致,完全收集就很快, 但是会更加频繁。调整堆大小的的目的是最小化垃圾收集的时间,以在特定的时间内最大化处理客户的请求。在基准测试的时候,为保证最好的性能,要把堆的大小 设大,保证垃圾收集不在整个基准测试的过程中出现。


    如果系统花费很多的时间收集垃圾,请减小堆大小。一次完全的垃圾收集应该不 超过 3-5 秒。如果垃圾收集成为瓶颈,那么需要指定代的大小,检查垃圾收集的详细输出,研究 垃圾收集参数对性能的影响。一般说来,你应该使用物理内存的 80% 作为堆大小。当增加处理器时,记得增加内存,因为分配可以并行进行,而垃圾收集不是并行的。


    Tomcat 5常用优化和配置


    1、JDK内存优化:

    Tomcat默认可以使用的内存为128MB,Windows下,在文件{tomcat_home}/bin/catalina.bat,Unix下,在文件{tomcat_home}/bin/catalina.sh的前面,增加如下设置:

    JAVA_OPTS='-Xms[初始化内存大小] -Xmx[可以使用的最大内存]

    一般说来,你应该使用物理内存的 80% 作为堆大小。


    2、连接器优化:

    在tomcat配置文件server.xml中的配置中,和连接数相关的参数有:

    maxThreads:

    Tomcat使用线程来处理接收的每个请求。这个值表示Tomcat可创建的最大的线程数。默认值200。

    acceptCount:

    指定当所有可以使用的处理请求的线程数都被使用时,可以放到处理队列中的请求数,超过这个数的请求将不予处理。默认值10。

    minSpareThreads:

    Tomcat初始化时创建的线程数。默认值4。

    maxSpareThreads:

    一旦创建的线程超过这个值,Tomcat就会关闭不再需要的socket线程。默认值50。

    enableLookups:

    是否反查域名,默认值为true。为了提高处理能力,应设置为false

    connnectionTimeout:

    网络连接超时,默认值60000,单位:毫秒。设置为0表示永不超时,这样设置有隐患的。通常可设置为30000毫秒。

    maxKeepAliveRequests:

    保持请求数量,默认值100。

    bufferSize:

    输入流缓冲大小,默认值2048 bytes。

    compression:

    压缩传输,取值on/off/force,默认值off。

    其中和最大连接数相关的参数为maxThreads和acceptCount。如果要加大并发连接数,应同时加大这两个参数。web server允许的最大连接数还受制于操作系统的内核参数设置,通常Windows是2000个左右,Linux是1000个左右。


    3、tomcat中如何禁止和允许列目录下的文件

    在{tomcat_home}/conf/web.xml中,把listings参数设置成false即可,如下:

    <servlet>
    ...
    <init-param>
    <param-name>listings</param-name>
    <param-value>false</param-value>
    </init-param>
    ...
    </servlet>

    4、tomcat中如何禁止和允许主机或IP地址访问
    <Host name="localhost" ...>
    ...
    <Valve className="org.apache.catalina.valves.RemoteHostValve"
    allow="*.mycompany.com,www.yourcompany.com"/>
    <Valve className="org.apache.catalina.valves.RemoteAddrValve"
    deny="192.168.1.*"/>
    ...
    </Host>
    如果没有给出允许主机的指定,那么与拒绝主机匹配的主机就会被拒绝,除此之外的都是允许的。与之类似,如果没有给出拒绝主机的指定,那么与允许主机匹配的主机就会被允许,除此之外的都是拒绝的。

    5、容量规划
        A. 硬件

      采用什么样的硬件体系?需要多少台计算机?使用一个大型的,还是使用多台小型机?每个计算机上使用几个CPU?使用多少 内存?使用什么样的存储设备,I/O的处理速度有什么要求?怎样维护这些计算机?不同的JVM在这些硬件上运行的效果如何(比如IBM AIX系统只能在其设计的硬件系统上运行)?

      B. 网络带宽

      带宽的使用极限是多少?web应用程序如何处理过多的请求?

      C. 服务端操作系统

      采用哪种操作系统作为站点服务器最好?在确定的操作系统上使用哪个JVM最好?例如,JVM在这种系统上是否支持本地多线程,对称多处理?哪种系统可使web服务器更快、更稳定,并且更便宜。是否支持多CPU?

      D. Tomcat容量计划

      以下介绍针对Tomcat做容量计划的步骤:

      1) 量化负载。如果站点已经建立并运行,可以使用前面介绍的工具模仿用户访问,确定资源的需求量。

      2) 针对测试结果或测试过程中进行分析。需要知道那些请求造成了负载过重或者使用过多的资源,并与其它请求做比较,这样就确定了系统的瓶颈所在。例如:如果servlet在查询数据库的步骤上耗用较长的时间,那么就需要考虑使用缓冲池来降低响应时间。

       3) 确定性能最低标准。例如,你不想让用户花20秒来等待结果页面的返回,也就是说甚至在达到访问量的极限时,用户等待的时间也不能超过20秒种(从点击链接 到看到返第一条返回数据)。这个时间中包含了数据库查询时间和文件访问时间。同类产品性能在不同的公司可能有不同的标准,一般最好采取同行中的最低标准或 对这个标准做出评估。

      4) 确定如何合理使用底层资源,并逐一进行测试。底层资源包括CPU、内存、存储器、带宽、操作系统、JVM等等。在各种生产环境上都按顺序进行部署和测试, 观察是否符合需求。在测试Tomcat时尽量多采用几种JVM,并且调整JVM使用内存和Tomcat线程池的大小进行测试。同时为了达到资源充分合理稳 定地使用的效果,还需针对测试过程中出现的硬件系统瓶颈进行处理确定合理的资源配置。这个过程最为复杂,而且一般由于没有可参考的值所以只能靠理论推断和 经验总结。

      5) 如果通过第4步的反复测试如果达到了最优的组合,就可以在相同的生产环境上部署产品了。

      此外应牢记一定要文档化你的测试过程和结果,因为此后可能还会进行测试,这样就可以拿以前的测试结果做为参考。另外测试过程要反复多次进行,每次的条件可能都不一样,因此只有记录下来才能进行结果比较和最佳条件的选择。

      这样我们通过测试找到了最好的组合方式,各种资源得到了合理的配置,系统的性能得到了极大的提升。
  • 关于JVM

    2007-09-12 15:37:31

    Sun Hotspot JVM Version: 1.3.1+ 版本进行了很多优化,也克服了32位操作系统上2G 内存的限制。在设置JVM参数的时候,需要权衡throughputfootprint两个重要的考量。

     

    JVM内存模型中分两大块,一块是New Generation, 另一块是Old Generation. New Generation中,有一个叫Eden的空间,主要是用来存放新生的对象,还有两个Survivor Spaces, 它们用来存放每次垃圾回收后存活下来的对象。在Old Generation中,主要存放应用程序中生命周期长的内存对象,还有个Permanent Generation,主要用来放JVM自己的反射对象,比如类对象和方法对象等。

     

    New Generation块中,垃圾回收一般用Copying的算法,速度快。每次GC的时候,存活下来的对象首先由Eden拷贝到某个Survivor Space, Survivor Space空间满了后, 剩下的live对象就被直接拷贝到Old Generation中去。因此,每次GC后,Eden内存块会被清空。在Old Generation块中,垃圾回收一般用mark-compact的算法,速度慢些,但减少内存要求。

     

    JVM参数很多,但最常见的是以下一些,具体可以参考JVM白皮书。NewSize, MaxNewSize, NewRatio, and SurvivorRatio是用来调整New Generation的。PermSizeMaxPermSize是用来调整Permanent Generation. 还有一组就是比较熟悉的 XmxXms, 它们用来控制整个JVMheap size. 一般来说我们把XmxXms设置成相同数值,JVM 能够aggressive占用分配给它的内存. 这样一来,我们可以有如下一个等式:

    Xmx = Xms = Eden + 2 x Survivor Space + Old Generation

    TotalHeapSize = Xmx setting + PermSize

     

    关于JVM的优化,要根据具体应用程序来考量throughputfootprint.并不是Heap size越大越好, 因为Heap size大了, GC的次数会减少, 但每次运行的开销会增加。

    相关参考:http://java.sun.com/docs/hotspot/gc1.4.2/

  • 2007-09-04我再一次当了舅舅,是只猪仔来的!

    2007-09-11 10:19:12

    哈哈~~~~~~~~~~~~
    希望只猪仔健健康康,快高长大!
  • 2007-08-20我63,她62,比她多一分还挣了一顿大餐!

    2007-08-20 12:02:07

    XX英语XX考试;

    63

    62

    都通过了~~~~~~~~~~~~~~~

  • 2007-07-29和一班朋友去玩了漂流,好刺激啊!

    2007-07-30 08:58:13

    第二天上班时,好累啊~

    期待下一次的出游~~~~

  • 2007-07-22 上午56,下午54,通过!

    2007-07-23 13:46:48

    暂无
  • 2007-07-11去看了电影"变形金刚",好开心!

    2007-07-12 14:13:49

    暂无
  • 真开心,个人空间开通!

    2007-01-24 14:39:00

    哈哈!

数据统计

  • 访问量: 4411
  • 日志数: 9
  • 文件数: 1
  • 建立时间: 2007-01-24
  • 更新时间: 2007-09-12

RSS订阅

Open Toolbar