Академический Документы
Профессиональный Документы
Культура Документы
Lcio Andr Mendona dos Anjos, Hermano Perrelli de Moura Centro de Informtica - Universidade Federal de Pernambuco (UFPE) Caixa Postal 7851 50.732-970 Recife PE Brazil
lce.info@uol.com.br, hermano@cin.ufpe.br
Abstract. This paper proposes a new evaluation model for software products, based on ISO standards, standard software products evaluation process and usual evaluation model of the market of software. With the insertion of the specialist of domain, proposed on the evaluation process, we try to guarantee, in this new model, the best and more complete final evaluation result. Resumo. Este artigo prope um novo modelo de avaliao para produtos de software, baseado nas normas ISO, nos processos de avaliao para produtos de software padro e modelos de avaliao mais utilizados no mercado de software. Com a insero, proposta no processo de avaliao, de um especialista no domnio do produto, procuramos garantir neste novo modelo um melhor e mais completo resultado final da avaliao.
1. Introduo
A grande competitividade dos mercados globalizados tem criado uma enorme demanda por qualidade, motivando a comunidade de software para o desenvolvimento de modelos para a qualidade de software. Duas vises orientam estes modelos: a viso de processo e a viso de produto. A viso de processo, apoiada nos modelos de referncia SPICE, CMMI, e normas ISO/IEC 12207 e srie ISO 9000, trata da avaliao e melhoria dos processos utilizados para o ciclo de vida do software. A viso de produto, fundamentada na srie de Normas ISO/IEC 9126, 14598 e 12119, trata da avaliao de um produto de software para verificao de sua qualidade. H superposio e confluncia entre os dois enfoques, pois ambas as vises objetivam garantir a qualidade do software e ambas interferem no processo de desenvolvimento, realimentando-o com os resultados obtidos. As duas vises so distintas quando utilizam tcnicas e mtodos especficos; so complementares, uma vez que a viso do processo d uma expectativa de gerao de produtos melhores [Tsukumo97], embora no garanta a qualidade do produto final. Assim, num esforo de assegurar a garantia de qualidade do produto, este trabalho descreve um modelo de Avaliao de Produto de Software que, baseado nas Normas e modelos j editados e amplamente utilizados, introduz um conceito de avaliao integrada ou holstica do Produto de Software. Este artigo compreende as seguintes sees: Seo 2 que conceitua a estrutura das Normas aplicadas avaliao da qualidade do produto de software; Seo 3 que apresenta o Processo de Avaliao de Produto de Software; Seo 4 que apresenta alguns modelos de avaliao de produto de software utilizados na atualidade; Seo 5 que prope um novo modelo ; e a Seo 6 que faz a concluso.
Portabilidade
Tabela 2 Subcaractersticas da Qualidade de Software segundo a ISO/IEC 9126-1 Caracterstica Subcaracterstica Adequao Acurcia Interoperabilidade Conformidade Segurana de acesso Maturidade Tolerncia a falhas Recuperabilidade Intelegibilidade Apreensibilidade Operacionalidade Tempo Recursos Analisabilidade Modificabilidade Estabilidade Testabilidade Adaptabilidade Capacidade para ser instalado Conformidade Capacidade para substituir Pergunta chave para a subcaracterstica Prope-se a fazer o que apropriado? Faz o que foi proposto de forma correta? Interage com os sistemas especificados? Est de acordo com as normas, leis etc? Evita acesso no autorizado aos dados? Com que freqncia apresenta falhas? Ocorrendo falhas, como ele reage? capaz de recuperar dados em caso de falha? fcil entender o conceito e a aplicao? fcil aprender a usar? fcil de operar e controlar? Qual o tempo de resposta, a velocidade de execuo? Quanto recurso usa? Durante quanto tempo? fcil de encontrar uma falha, quando ocorre? fcil modificar e adaptar? H grande risco quando se faz alteraes? fcil testar quando faz alteraes? fcil adaptar a outros ambientes? fcil instalar em outros ambientes? Est de acordo com padres de portabilidade? fcil usar para substituir outro?
Funcionalidade
Confiabilidade
Usabilidade Eficincia
Manutenibilidade
Portabilidade
2.2 A Srie ISO/IEC 14598 Esta srie oferece uma viso geral dos processos de avaliao de produtos de software e fornece guias para a avaliao, baseados na utilizao prtica da norma ISO 9126. Est dividida em seis partes, conforme a seguir: ISO/IEC 14598-1:1999 Part 1: General overview; ISO/IEC 14598-2:2000 Part 2: Planning and management ISO/IEC 14598-3:2000 Part 3: Process for developers ISO/IEC 14598-4:1999 Part 4: Process for acquirers ISO/IEC 14598-5:1998 Part 5: Process for evaluators ISO/IEC 14598-6:2001 Part 6: Documentation of evaluation modules Pela Norma, podem existir trs enfoques diferentes para a avaliao da qualidade de produto: Processo para Desenvolvedores, Processo para Compradores e Processo para Avaliadores. A Figura 1 apresenta a relao entre as Normas desta srie.
Suporte Avaliao
Processo de Avaliao
2.3 A Norma ISO/IEC 12119 Esta Norma foi criada para atender aos pacotes de software (processadores de texto, planilhas eletrnicas, bancos de dados, softwares grficos, programas para funes tcnicas ou cientficas e programas utilitrios), tambm conhecidos internacionalmente como COTS Commercial off the Self, estabelecendo requisitos de qualidade e instrues a respeito de como testar um pacote de software em relao aos requisitos estabelecidos. Estes requisitos compreendem: descrio do produto, documentao do usurio e programas e dados. A descrio do produto inclui as principais propriedades do pacote. A documentao do usurio nada mais que um documento que ser avaliado em relao sua completitude, correo, consistncia, inteligibilidade, apresentao e organizao. Programas e dados, na verdade, so os requisitos de programas e dados que devem estar descritos, caso existam, para funcionamento do produto. Um pacote de software est em conformidade com esta Norma se atende a todos os requisitos de qualidade nela definidos. As instrues para teste, definidas na Norma, incluem tanto o teste das propriedades necessrias a todos os produtos de mesmo uso quanto o teste das propriedades especificadas na descrio do produto. A figura 2 melhor representa a estrutura desta Norma.
ISO / IEC 12119
Requisitos de Qualidade
Descrio do Produto
Documentao do Usurio
Programas e Dados
Pr-requisitos de Teste
Atividades de Teste
Registros de Teste
Relatrio de Teste
Teste de Acompanhamento
Tambm esto includos o teste de inspeo dos documentos e o teste funcional (caixapreta). O teste estrutural no includo por requerer a disponibilidade do cdigo-fonte.
Somente o produto, no seu ambiente de hardware e software, testado. A avaliao ergonmica do ambiente de uso do sistema computacional no considerada na Norma [NBR12119].
Produto
Medio
Valor medido
Pontuao
Nvel de Pontuao
Medio o ato de aplicar as medies escolhidas ao produto de software, onde o resultado dado em valores nas escalas das medies; Pontuao o processo tcnico de medio da qualidade, onde o nvel de pontuao determinado a partir do valor medido; Julgamento a emisso de um juzo sobre a qualidade, no qual um conjunto de nveis pontuados sintetizado. De acordo com a ISO/IEC 14598-4, as caractersticas esperadas do Processo de Avaliao so: Repetitividade - avaliao repetida de um mesmo produto, com mesma especificao de avaliao, realizada pelo mesmo avaliador, deve produzir resultados que podem ser aceitos como idnticos;
Reprodutividade a avaliao do mesmo produto, com mesma especificao de avaliao, realizada por um avaliador diferente, deve produzir resultados que podem ser aceitos como idnticos; Imparcialidade a avaliao no deve ser influenciada frente a nenhum resultado particular; Objetividade os resultados da avaliao devem ser factuais, ou seja, no influenciados pelos sentimentos ou opinies do avaliador. O processo de Avaliao, como proposto na Norma 14596-4, composto de cinco atividades: Anlise de Requisitos de Avaliao - Nesta atividade, deve-se descrever os objetivos da avaliao. Vrios pontos de vista podem ser considerados, dependendo dos diferentes usurios do produto, tais como comprador, fornecedor, desenvolvedor e operadores. Especificao da Avaliao Nesta atividade deve-se definir o escopo da avaliao e as medidas a serem executadas no produto submetido avaliao, nos seus vrios componentes. O nvel de detalhes na especificao da avaliao deve ser tal que, na sua base, a avaliao seja repetvel e reprodutvel. Projeto de Avaliao Nesta atividade, deve-se documentar os procedimentos a serem usados pelo avaliador para executar as medidas especificadas na fase anterior. O avaliador deve produzir um plano de avaliao que descreva os recursos necessrios para executar a avaliao especificada, assim, como a distribuio desses recursos nas vrias aes a serem executadas. Execuo da Avaliao Nesta atividade, deve-se obter resultados de aes para medir e verificar o produto de software de acordo com os requisitos de avaliao, como definido na especificao da avaliao e no plano de avaliao. Ao executar essas aes, tem-se o rascunho do relatrio de avaliao e os registros da avaliao. Concluso da Avaliao Nesta atividade, deve-se revisar o relatrio da avaliao e disponibilizar os dados resultantes da mesma.
software atravs de Procedimento de Avaliao elaborado com base nas Normas ISO/IEC 12119, 9126 e 14598, em grande parte, na forma de lista de verificao/questionrio. Dentre estas e tantas outras iniciativas, uma que tem se destacado, nos ltimos doze anos, a metodologia MEDE-PROS, desenvolvida no CENPRA - Centro de Pesquisas Renato Archer, uma instituio do Ministrio da Cincia e Tecnologia, que obteve resultados positivos na avaliao de produtos de software em mais de 360 produtos avaliados at o ano 2002 [Colombo02]. O propsito principal do MEDE-PROS proporcionar, aos avaliadores, meios para apoiar a avaliao de produtos de software, do ponto de vista do usurio, de acordo com as Normas ISO/IEC 9126 e ISO/IEC 12119, com relao a caractersticas de qualidade e pacotes de software, respectivamente. O Processo de Avaliao de produtos de software do MEDE-PROS baseado na ISO/IEC 14598-5 que visa a prover exigncias e recomendaes para a implementao prtica de avaliao de produtos de software, desenvolvidos ou em desenvolvimento, como uma srie de atividades definidas acordadas entre o cliente e o avaliador. As ferramentas para aplicao do MEDE-PROS esto armazenadas no Banco de dados de Avaliao. O processo de avaliao levado a cabo simulando o uso operacional normal do produto e comea atravs da anlise da documentao, instalando o produto como instrudo na documentao e procedendo ao uso do produto do modo mais completo que possa ser feito. Durante todo o processo, o avaliador atribui valores ao produto de acordo com perguntas do Checklist. Alm de atribuir valores, o avaliador registra o tempo gasto na avaliao, especifica as funes principais do produto, e escreve comentrios sobre assuntos especficos que eles considerem relevantes com relao ao produto. O passo final do processo de avaliao a preparao do Relatrio de Avaliao que deve resgatar os principais aspectos positivos do produto avaliado como tambm as sugestes para sua melhoria. Para avaliar a Descrio do Produto e o Pacote, os requisitos de qualidade especificados na Norma ISO/IEC 12119 foram considerados. Para avaliar a documentao do Usurio, os requisitos de qualidade especificados na ISO/IEC 12119, ANSI/IEEE 1063 e ISO 9126 foram considerados. Para avaliar o Software, o requisito de qualidade especificado na Norma ISO 9126 foi levado em conta. Para avaliar a Interface, os requisitos de qualidade especificados na ISO 9126 e ISO 9241 partes 10, 11 e 12 foram levados em considerao. Cada um dos componentes de Produto de Software, que de acordo com a ISO/IEC 12119, so: Descrio de produto, Documentao do Usurio, e Programa e Dados, aqui mencionados como Software e Interface, avaliado pelas caractersticas definidas na Norma ISO/IEC 9126; aquelas em uso aqui so: Portabilidade, Usabilidade, Funcionalidade, Eficincia e Confiabilidade; e de acordo com o requisito de Completitude definido na Norma ISO/IEC 12119. A caracterstica Manutenibilidade no se aplica ao contexto, por no haver acesso a programas fonte e produtos intermedirios criados durante o desenvolvimento de produto de software. Nisto ainda se incluem as subcaractersticas de qualidade da Norma ISO/IEC 9126 que so o desdobramento de cada caracterstica mais o conceito do requisito de Completitude includa na Norma ISO/IEC 12119. A figura 4 apresenta a estrutura do Mtodo de Avaliao MEDEPROS.
Avaliao
Documentao do Usurio ISO / IEC 12119 ISO / IEC 9126 ANSI / IEEE 1063 Completitude Usabilidade
Funcionalidade
Seguindo o Modelo de Qualidade definido na ISO/IEC 9126, o prximo passo o desdobramento das caractersticas de qualidade em atributos que possam ser medidos e pontuados. O mtodo adotado no modelo a utilizao de um Checklist onde cada componente de software, com seus respectivos atributos, desdobrado em perguntas e itens os quais podem ser conferidos e respondidos pelo avaliador. Com relao s perguntas includas no Checklist, o avaliador tem que considerar que aquelas perguntas so as proposies lgicas sobre um atributo a ser conferido na avaliao. Cada proposio que se refira a um atributo deve ser a mais objetiva possvel envolvendo somente uma caracterstica de qualidade. A principais respostas para a pergunta so: S(Sim) para as proposies verdadeiras; N(No) para as proposies falsas; NA(No Aplicvel) para as proposies que fazem referncia a uma caracterstica que no se ajusta ao produto que est sendo avaliado. O avaliador deve manter a ateno ao fato de que a ausncia de algo que est sendo avaliado nem sempre significa a atribuio de um N (No). O avaliador tem que verificar quando a proposio aplicvel ao produto de software. AP(Avaliao Prejudicada) atribudo a proposies em que o avaliador no est em condio de avaliar por falta de meios, irrelevncia ou at mesmo por falta de conhecimento especfico no assunto que apresentado. Por exemplo, no componente Software, na exigncia de qualidade Completitude, o atributo seguinte pode ser medido atravs da seguinte medio: As funes do software: (___) 1.Especificadas na documentao, foram todas implementadas? (___) 2.Implementadas, atendem de forma completa aos objetivos declarados na documentao? (___) 3.Satisfazem s necessidades da tarefa a que o produto se prope realizar? Selecionadas as medidas, o prximo passo buscar a definio de nveis de pontuao para as medidas. Nesta metodologia, as medidas so perguntas que tm como resposta um tipo de conceito. Um quadro para cada tipo de respostas feito com um valor numrico. Cada atributo tem que ter um valor numrico. Este valor deve ser uma Mdia entre zero (0) e um (1). Isto importante para que todos os atributos tenham valores semelhantes, at mesmo aqueles compostos de vrios itens, fato este que normalmente acontece quando o atributo subdividido em itens podendo, assim, ser conferido de um
modo mais claro e objetivo. Conseqentemente, em um atributo composto por 2, 3 ou 4 itens, os valores numricos destes itens assumiro valores proporcionais e estaro entre zero e um dependendo de quantos itens ele seja composto. necessrio que a mdia destes itens, ou melhor, os valores numricos estejam entre zero e um. Os itens que receberem o tipo NA ou AP como resposta, devem ser tratados de forma diferente, para que tal resposta no possa ocultar a avaliao do produto, e neste caso, um valor nomeado "Faltando" designado e deste modo nenhum valor numrico atribudo a eles. Julgar qualidade significa, na essncia, interpretar resultados medidos. O primeiro passo neste sentido foi descrito no item anterior, quando foram definidos os nveis de pontuao para as medidas obtidas. O desejvel, a seguir, sintetizar as concluses sobre qualidade e isto comea com a srie de valores obtidos com a aplicao das medidas. O mtodo sugere o seguinte: 1) tabular todo o resultado das medidas para a escala (0,1) nos quais 0 aponta para o pior resultado possvel, considerando que 1 aponta para o melhor. As medidas sugeridas neste mtodo seguem este padro. 2) Estabelecer pesos para caractersticas e subcaractersticas de qualidade de software. Os pesos tm que representar a importncia relativa de cada item no juzo global da qualidade de produto. Devem ser resgatados valores que na avaliao, acentuem o que ou no importante na percepo sobre qualidade de produto. 3) Analisar a mdia de pesos usando valores medidos e pesos das respectivas caractersticas e subcaractersticas. Deve-se analisar as mdias de pesos e agrup-las por caractersticas e subcaractersticas, de forma a criar um ndice padro para qualidade de software. O Processo de Avaliao aplicado por este mtodo o estabelecido pela Norma ISO/IEC 14598-5, que ao final produz um relatrio qualitativo dos componentes de produto de software e suas respectivas caractersticas de qualidade que atendem e que no atendem aos Padres. Um relatrio de avaliao quantitativo tambm pode ser produzido, mostrando em grficos os nveis atingidos pelo produto de software [Colombo02]. O MEDE-PROS tem sido referencial no Brasil como mtodo de avaliao de produtos de Software, sendo utilizado em laboratrios de avaliao de diferentes regies do pas, a exemplo do Insoft Instituto de Software do Cear, no nordeste, na Unisinos no Estado do Rio Grande do Sul, sul do pas, e outros credenciados em Juiz de Fora/MG e Londrina/PR. Foi utilizado como modelo certificador aos sistemas aplicativos que atendessem s necessidades do PNAFM Programa Nacional de Apoio Gesto Administrativa e Fiscal dos Municpios Brasileiros.
Engenharia de Software. Entre a fase de concluso da Avaliao, com aceitao, e a utilizao do software pelo usurio, existe uma importante etapa de planejamento de marketing e vendas, e sua conseqente execuo. Sem a aceitao do usurio-cliente, o esforo de comercializao pode transformar-se num grande fracasso. Segundo a definio das Caractersticas de Qualidade da ISO/IEC 9126, Funcionalidade o conjunto de atributos que evidenciam a existncia de um conjunto de funes e suas propriedades especificadas. As funes so as que satisfazem as necessidades explcitas ou implcitas. Este conjunto de atributos caracteriza o que o software faz para atender as necessidades, enquanto que os outros conjuntos caracterizam principalmente quando e como ele faz. Em ambientes contratuais, as necessidades so especificadas, enquanto que em outros ambientes isto nem sempre ocorre. Nestas situaes as necessidades implcitas, aquelas que embora no documentadas so necessrias ao usurios, devem ser identificadas e definidas. Neste sentido, o modelo proposto insere a participao do Avaliador especialista no domnio. um profissional especializado na rea objeto do software avaliado, capaz de verificar o cumprimento de todos os requisitos definidos e identificar e definir as necessidades implcitas, garantindo assim, no s a conformidade das funes aos requisitos, mas sobretudo a acurcia e adequao. Evidentemente, a participao deste avaliador especialista no domnio se limita avaliao dos componentes de um produto de software onde a funcionalidade avaliada, ou seja, Software, Interface, Documentao do Usurio e Pacote. A iniciativa deste modelo visa tambm diminuio do perodo de atingimento da maturidade do produto de software, em geral, atingida depois de um longo perodo de real utilizao do software, uma vez que as insuficincias funcionais j so detectadas no processo de avaliao, contribuindo, desta forma, para a diminuio do perodo de retorno de investimento. O Projeto LAPS Laboratrio de Avaliao de Produtos de Software, em fase de desenvolvimento pelo RECIFE BEAT, com a parceria do Centro de Informtica da Universidade Federal de Pernambuco (Cin-UFPE) e outros, est adotando este modelo. O Projeto ir montar um laboratrio para a avaliao avanada e integrada de produtos de software, com o objetivo de, em sua primeira fase realizada no perodo de um ano, qualificar produtos de software de empresas do ecossistema pernambucano de tecnologia da informao e comunicao e/ou agentes SOFTEX, fazendo a avaliao integrada de seis produtos de software, alm de apoiar a formao em qualidade de software, com foco em avaliao do produto, de alunos-empreendedores das universidades e faculdades da regio que ministram a disciplina Empreendedorismo em Informtica ou similar. A figura 6 exemplifica a essncia do modelo utilizado no LAPS: conceituao nas Normas ISO 9126, 14598 e 12119 e Processo de Avaliao de Produto de Software, utilizao de prticas de um modelo de avaliao que tem obtido sucesso, adicionado inovao da avaliao do domnio por especialista.
LA P S
ISO/IEC 12119
Mtodo MEDEPROS
6. Concluso
A Avaliao do domnio por especialistas agrega valor ao modelo de avaliao de produto de software, por reforar o processo de avaliao sob as caractersticas de funcionalidade, na busca da avaliao da qualidade do software como um todo, alm de enfatizar a importncia da definio dos requisitos em ambas as vises de processo e produto de software. Isto tem um significado de maior importncia principalmente para as pequenas e mdias empresas de desenvolvimento de software, que no dispem de recursos humanos especializados necessrios fase de definio do sistema, e que podero contar com este controle de qualidade, com a avaliao de especialista feita em laboratrios que utilizem este modelo, a exemplo do LAPS. Referncias ABNT Associao http://www.abnt.prg.br Brasileira de Normas Tcnicas acessvel em
Andrade, A.L.P.; Oliveira, A.; Capovilla, C.R.; Rego, C.M.; Souza, E.P.; Martinez, M.R.M; Aguayo, M.T.V.; Jino, M. Aplicao da Norma ISO/IEC 12119 na Avaliao da Qualidade de Produtos de Software, VII CITS, Curitiba/PR, junho/1996 Colombo, R.; Guerra, A.; The Evaluation Method for Software Product . ICSSEA '2002 - International Conference "Software & Systems Engineering and their Applications" Paris Frana Elias, A.; Vostoupal, T. Ncleos de Avaliao de Produto de Software Artigo Revista Bate Byte 81 Novembro-98 International Organization for Standardization - ISO acessvel em http://www.iso.ch NBR ISO/IEC 13596, International Standard. Information Technology Software product evaluation Quality characteristics and guidelines for their use; 1991 NBR ISO/IEC 12119, Tecnologia de Informao Pacotes de software Teste e requisitos de qualidade; 1998 ISO/IEC 14598-1, International Standard. Information Technology Software product evaluation Part 1: General Overview; July 1996
Tsukumo, A.N.; et al. Qualidade de Software: Vises de Produto e Processo de Software. VIII CITS Conferncia Internacional de Tecnologia de Software, Curitiba/PR, junho/1997