AI has potential to revolutionise health care – but we must first confront the risk of algorithmic bias

Tue, 23 May 2023 22:06:09 +1000

Andrew Pam <xanni [at]>

Andrew Pam

"Artificial Intelligence (AI) is moving fast and will become an important
support tool in clinical care. Research suggests AI algorithms can accurately
detect melanomas and predict future breast cancers.

But before AI can be integrated into routine clinical use, we must address the
challenge of algorithmic bias. AI algorithms may have inherent biases that
could lead to discrimination and privacy issues. AI systems could also be
making decisions without the required oversight or human input.

An example of the potentially harmful effects of AI comes from an international
project which aims to use AI to save lives by developing breakthrough medical
treatments. In an experiment, the team reversed their “good” AI model to create
options for a new AI model to do “harm”.

In less than six hours of training, the reversed AI algorithm generated tens of
thousands of potential chemical warfare agents, with many more dangerous than
current warfare agents. This is an extreme example concerning chemical
compounds, but it serves as a wake-up call to evaluate AI’s known and
conceivably unknowable ethical consequences."

       *** Xanni ***
--               Andrew Pam                 Chief Scientist, Xanadu            Partner, Glass Wings               Manager, Serious Cybernetics

Comment via email

Home E-Mail Sponsors Index Search About Us