Application for Detecting Maliciousness in Text Input

Abstract

Tämän insinöörityön tavoite oli luoda sovelluspohjainen ratkaisu tukemaan kyberrikollisuuden vastaista kamppailua. Insinöörityö tutkii erilaisia ratkaisuja tekstin haitallisuuden tunnistamiseen sekä selainpohjaisen sovelluksen julkaisemiseen.

Useimmat kyberhyökkäykset alkavat sähköpostitse. Teknisiä ratkaisuja voi aina parantaa tehden niistä vaikeammin murrettavia, mutta ihmismieli ja sen haavoittuvuudet eivät ole yhtä yksinkertaisesti paikattavissa. Tarjoamalla sovelluksen, joka antaa loppukäyttäjän syöttää tekstiä ja saada syötteeseen perustuvaa palautetta tekstin haitallisuudesta, saattaa yhä useampi pysyä turvassa huijauksilta.

Monet viestintäalustat sisältävät roskapostin suodattimia, jotka vähentävät paljolti loppukäyttäjien saamia huijausviestejä. Nämä suodattimet eivät kuitenkaan ole täydellisiä, sillä hyökkääjät innovoivat jatkuvasti uusia tapoja saada viestinsä perille. Tässä insinöörityössä keskitytään ratkaisuun, joka toimii viestintäalustasta huolimatta. Työn lopputuloksena oli sovellus, johon käyttäjä voi alustasta riippumatta kopioida epäilyttävän tekstin ja saada sille koneoppimiskeinoin räätälöidyn palautteen.

The goal of this Final Year Project was to create a software solution to combat textbased scams in an increasingly volatile field of cybercrime.

Email based attacks are by far the most common initial vector in cyberattacks. Technical implementations can always be made more robust, but the human mind and its vulnerabilities are not as easily patched. By offering an application which allows a user to insert text they are suspicious of, and receive feedback based on the input, users might be able to avoid potential scams and learn to stay safe from them in the future. In a best-case scenario, potentially even educating others about them.

Many organizations offer solutions such as spam filters and reporting functionality to combat cyberattacks. These solutions do well at reducing the risk but are not foolproof, often doing nothing in terms of educating the user. The web application created in this project offers a universal tool, not tied to any certain communications platform, allowing users with no registration or cost requirements to receive instantaneous help combating cybercrime.

To achieve the set goal of the Final Year Project, this thesis examines potential approaches to detecting malicious intent in text. In addition, this thesis discusses methods to create a simple web application from start to finish. The result is a web application allowing a user to input text for evaluation, and receive feedback based on the estimated maliciousness of the text.